grab_point_rs.h 11 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291
  1. #pragma once
  2. #include <pcl\point_types.h>
  3. #include <pcl\point_cloud.h>
  4. #include <pcl\segmentation\sac_segmentation.h>
  5. #include "data_def_api.h"
  6. #include "data_def.h"
  7. #include "logger.h"
  8. #include "imstorage_manager.h"
  9. #include "grab_occlusion.h"
  10. namespace graft_cv {
  11. class CRootStockGrabPoint {
  12. public:
  13. CRootStockGrabPoint(ConfigParam&c, CGcvLogger*pLog = 0);
  14. ~CRootStockGrabPoint();
  15. int grab_point_detect(PositionInfo& posinfo);
  16. float* get_raw_point_cloud(int &data_size);
  17. int load_data(float*pPoint, int pixel_size, int pt_size, int dtype, const char* fn = 0);
  18. void set_image_saver(CImStoreManager** ppis) { m_ppImgSaver = ppis; }
  19. private:
  20. //global configure parameters
  21. ConfigParam& m_cparam;
  22. CGcvLogger * m_pLogger;
  23. int m_dtype;
  24. string m_pcdId;
  25. //历史植株位置信息
  26. CStemResultInfos* m_pStemInfos;
  27. CSeedlingStatus* m_pSeedlingStatus;
  28. std::string m_stem_info_file;
  29. std::vector<CStemResult> m_root_centers; //通过m_pStemInfos获取到历史根中心位置
  30. std::vector<int> m_root_center_pcd_size; //穴位上整体点云数量
  31. std::vector<double> m_root_center_leaf_cx;//穴位上,如有叶子,叶子中心,或按整体点云中心,默认1.0e6
  32. std::vector<int> m_root_center_with_seedling; //m_root_centers位置上是否含有植株,0--没有, 1--有茎, 2--有叶子遮挡
  33. std::vector<int> m_root_center_with_occlusion; //m_root_center_with_occlusion位置上是否含有植株,0--没有, 2--有叶子遮挡
  34. //用于记录第一排z均值,用来辅助判别1、2排的苗
  35. float m_1st_row_zmean_rs = -1.0;
  36. float m_1st_row_zmean_sc = -1.0;
  37. CImStoreManager** m_ppImgSaver;
  38. //返回图片,用于调试
  39. ImgInfo* m_pImginfoResult;//识别结果的图片
  40. pcl::PointCloud<pcl::PointXYZ>::Ptr m_raw_cloud;
  41. double m_cloud_mean_dist;
  42. void clear_imginfo();
  43. int read_ply_file(const char* fn);
  44. double compute_nearest_neighbor_distance(pcl::PointCloud<pcl::PointXYZ>::Ptr);
  45. /////////////////////////////////////////////////////////////////////////////////////
  46. //叶子剔除,通过欧式距离聚类,然后判断每一个类别是否是叶子
  47. // 出现的问题:叶子和茎通过叶柄连接时,会误判
  48. void leaf_filter(
  49. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud,
  50. std::vector<int> &stem_cloud_idx
  51. );
  52. void leaf_filter_ror(
  53. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud, //input 输入点云数据
  54. std::vector<int> &stem_cloud_idx, //output, 过滤后的点云序号
  55. std::vector<int>& leaf_idx //output, 叶子的点云序号
  56. );
  57. void cloud_mean_dist(
  58. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud, //input 输入点云数据
  59. double& mean_dist
  60. );
  61. //////////////////////////////////////////////////////////////////////////////////////
  62. void CRootStockGrabPoint::find_fork(
  63. pcl::PointCloud<pcl::PointXYZ>::Ptr in_line_cloud,
  64. pcl::ModelCoefficients::Ptr line_model,
  65. float stem_width_ex_mu,//输入,stem_width_ex中有效值的均值
  66. const std::vector<float>& stem_width_ex,//输入, 通过外沿矩形得到的x方向茎粗
  67. std::vector<int>&fork_pos, //输出, 多个fork位置
  68. float& stem_width_mu //输出, xy投影上x方向的茎粗均值
  69. );
  70. void get_edge_line(
  71. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud,
  72. std::vector<int>& inbox_idx,
  73. pcl::ModelCoefficients::Ptr coefficients
  74. );
  75. float get_stem_width(
  76. pcl::ModelCoefficients::Ptr left_edge_line,
  77. pcl::ModelCoefficients::Ptr right_edge_line,
  78. pcl::PointXYZ& left_min,
  79. pcl::PointXYZ& left_max,
  80. pcl::PointXYZ& right_min,
  81. pcl::PointXYZ& right_max
  82. );
  83. void gen_all_seedling_positions(
  84. pcl::PointXYZ&key_center, //输入,已知的苗的坐标
  85. std::vector<pcl::PointXYZ>&candidate_center //输出,有倾斜苗的坐标
  86. );
  87. bool find_seedling_position_key(
  88. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud,
  89. std::vector<int> &first_seedling_cloud_idx,
  90. pcl::PointXYZ&xz_center,
  91. pcl::ModelCoefficients::Ptr& lmodel,
  92. int& first_row_size //返回第一排植株的数量
  93. );
  94. // 邻域最小抑制
  95. void nms_box(
  96. std::vector<pcl::PointXYZ>&clt_root_v, //目标点的可能位置
  97. std::vector<float>&valid_box_cc_dist, //目标点的重心到中心的距离,距离越近越好
  98. float hole_step_radius, //目标点搜索半径
  99. std::vector<pcl::PointXYZ>& target_toot // 返回值
  100. );
  101. //通过指定位置内,取部分点云分析是否存在真正的茎,真茎位置保存到target_filtered
  102. void line_filter(pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud, //输入点云
  103. float radius, //输入,取点半径
  104. float ymin, //输入,y最小值
  105. float ymax, //输入,y最大值
  106. std::vector<pcl::PointXYZ>&target_root, //输入,位置
  107. std::vector<pcl::PointXYZ>&target_filtered, //输出,位置
  108. std::vector<pcl::PointXYZ>&target_filtered_root, //输出,茎上根部点坐标
  109. std::vector<std::vector<int>>&target_filtered_element, //输出,茎上点index
  110. std::vector<pcl::ModelCoefficients::Ptr>& target_filtered_models,//输出,茎直线模型
  111. std::vector<int>& occlusion_status //输出,茎状态,1--有茎,2--叶子遮挡
  112. );
  113. void get_line_project_hist(
  114. pcl::PointCloud<pcl::PointXYZ>::Ptr in_line_cloud, //input 茎上直线点云
  115. pcl::ModelCoefficients::Ptr line_model, //input
  116. std::vector<int>& count_hist, // 返回有效直线1mm内点云数量
  117. std::vector<int>& leaf_count_hist // 返回有效直线1mm内点云数量,原始点云上做统计
  118. );
  119. /////////////////////////////////////////////////
  120. void find_seedling_position(
  121. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud,
  122. std::vector<int> &first_seedling_cloud_idx,
  123. pcl::PointXYZ&xz_center
  124. );
  125. void crop_nn_analysis(
  126. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud,
  127. pcl::PointCloud<pcl::PointXYZ>::Ptr seed_cloud,
  128. double dist_mean,
  129. std::vector<double>&mass_indices,
  130. std::vector<int>& idx
  131. );
  132. void euclidean_clustering_ttsas(
  133. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud,
  134. double d1, double d2,
  135. std::vector<pcl::PointXYZ>&cluster_center,
  136. std::vector<std::vector<int>> &clustr_member
  137. );
  138. void cal_obb_2d(
  139. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud,
  140. int axis,
  141. double &dx_obb,
  142. double &dy_obb,
  143. double &angle_obb);
  144. //已知检测出苗的位置,找出有可能有苗的位置
  145. void tilted_seedling_discover(
  146. std::vector<pcl::PointXYZ>&cluster_center, //输入,已知的苗的坐标
  147. std::vector<pcl::PointXYZ>&tilted_center //输出,有倾斜苗的坐标
  148. );
  149. //通过比较直线点云和原始点云相同位置邻域内xz的范围,确定此点是否是无干扰点的茎
  150. void get_optimal_seed_compare(
  151. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud, //input
  152. pcl::PointCloud<pcl::PointXYZ>::Ptr in_line_cloud, //input
  153. pcl::ModelCoefficients::Ptr line_model, //input
  154. pcl::PointXYZ&pt, //输出,
  155. pcl::PointXYZ &pt_ref, //输出, 返回点茎节的参考点
  156. pcl::PointXYZ&pt_rs_grab, //输出, 返回砧木指定的固定高度位置坐标
  157. std::vector<float>& fork_ys, // 返回,fork y的高度
  158. float& stem_width_mu, //输出,茎宽度,直径
  159. float& stem_deflection //输出,茎的最大挠度,最大弯曲处的偏离直径轴心的距离,毫米
  160. );
  161. //计算茎的弯曲度:点云到直线距离的95分位
  162. double calculate_deflection(
  163. pcl::PointCloud<pcl::PointXYZ>::Ptr in_line_cloud, //input
  164. pcl::ModelCoefficients::Ptr line_model //input
  165. );
  166. //在一株苗的空间范围内找出直线(茎,假设茎是直线分布的),并返回直线上的点index
  167. void find_line_in_cube(
  168. pcl::PointCloud<pcl::PointXYZ>::Ptr, //输入,整体点云
  169. pcl::PointXYZ& min_pt_ex, //输入,
  170. pcl::PointXYZ& max_pt_ex, //输入,
  171. std::vector<int>& out_idx //输出,直线上点的index, 基于输入整体点云
  172. );
  173. //生成结果图片
  174. void gen_result_img(
  175. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud_raw,//输入,未经过滤的整体点云in_cloud_raw,
  176. pcl::PointCloud<pcl::PointXYZ>::Ptr, //输入,整体点云cloud_dowm_sampled,
  177. pcl::PointXYZ& selected_pt, //输入,selected_pt,
  178. pcl::PointXYZ& selected_pt_ref, //输入,selected_pt_ref,
  179. pcl::PointXYZ& rs_grab_pt, //输入,砧木固定抓取点,
  180. std::vector<float>&fork_ys, //输入,forkys
  181. const PositionInfo& posinfo, //输入,
  182. cv::Mat& rst_img //输出,图片, 640*1280
  183. );
  184. //根据历史根的位置,计算对应位置点云数量,进而判断此位置是否有苗
  185. void occluded_seedling_detect_by_leaf(
  186. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud, //input 输入点云数据
  187. std::vector<int>& leaf_idx); //input
  188. //统计inbox点云在x方向的分布情况
  189. void get_point_x_hist(
  190. std::vector<int>& x_hist //output
  191. );
  192. void get_point_centriod(
  193. std::vector<CStemResult>& root_centers, //input
  194. std::vector<int>&counts, //output
  195. std::vector<Eigen::Vector4f>& centroids //output
  196. );
  197. //指定茎周围点云数量、重心位置
  198. int CRootStockGrabPoint::get_point_count_inbox(
  199. const CStemResult& sr, //input
  200. pcl::PointXYZ& aabb_min,//output
  201. pcl::PointXYZ& aabb_max,//output
  202. Eigen::Vector4f& centoid);//output
  203. void get_leaf_point_count_inbox(
  204. const CStemResult& sr, //input
  205. pcl::PointCloud<pcl::PointXYZ>::Ptr in_cloud, //input 输入点云数据
  206. std::vector<int>& leaf_idx, //input 叶子点云index
  207. pcl::PointXYZ& aabb_min, //output
  208. pcl::PointXYZ& aabb_max, //output
  209. int& total_cnt, //output
  210. int& leaf_cnt, //output
  211. double& total_cx, //output
  212. double& leaf_cx, //output
  213. double& valid_y_ratio//output
  214. );
  215. //没有检测到苗的情况,后处理
  216. void no_seedling_detected_post_process(
  217. int first_row_seedling_number, //input
  218. int& selected_idx, //output, 选择root_center的序号
  219. pcl::PointXYZ& selected_pt, //output
  220. pcl::PointXYZ& selected_pt_ref, //output
  221. pcl::PointXYZ& rs_grab_pt, //output
  222. PositionInfo& posinfo //output
  223. );
  224. //检测到苗的情况,后处理
  225. void had_seedling_detected_post_process(
  226. int first_row_seedling_number, //input
  227. float stem_width_mu, //input
  228. float stem_deflection, //input
  229. int& selected_idx, //output, 选择root_center的序号
  230. pcl::PointXYZ& selected_pt, //input-output
  231. pcl::PointXYZ& selected_pt_ref, //input-output
  232. pcl::PointXYZ& rs_grab_pt, //input-output, 检测到的目标抓取参考点
  233. std::vector<float>&fork_ys,
  234. PositionInfo& posinfo //output
  235. );
  236. //基于noise计算
  237. void calculate_noise(
  238. std::vector<float>&diamters, //input
  239. int security_radius, //input
  240. int noise_radius, //input
  241. std::vector<float>&noise //output
  242. );
  243. void viewer_cloud(pcl::PointCloud<pcl::PointXYZ>::Ptr, std::string&winname);
  244. void viewer_cloud(pcl::PointCloud<pcl::PointXYZRGB>::Ptr, std::string&winname);
  245. void viewer_cloud_debug(
  246. pcl::PointCloud<pcl::PointXYZRGB>::Ptr cloud,
  247. pcl::PointXYZ&p,//抓取点
  248. pcl::PointXYZ &p_ref,//分叉点
  249. pcl::PointXYZ &root_pt,
  250. std::string&winname);
  251. void viewer_cloud_cluster(
  252. pcl::PointCloud<pcl::PointXYZRGB>::Ptr cloud,
  253. std::vector<pcl::PointXYZ>cluster_center,
  254. std::string&winname);
  255. void viewer_cloud_cluster_box(
  256. pcl::PointCloud<pcl::PointXYZ>::Ptr cloud,
  257. std::vector<pcl::PointXYZ>&cluster_center,
  258. std::vector<pcl::PointXYZ>&cluster_box,
  259. std::vector<std::vector<int> >& clt_line_idx,
  260. std::string&winname);
  261. };
  262. };