fix aabb template nonsense

Author: alecjacobson

classes/AABB.cpp

@@ -17,15 +17,26 @@ void check_c_contiguity(py::array_t<T> V, const std::string name = "arg")
       throw std::runtime_error(name+" must be C-contiguous with a 2D shape.");
   }
 };
+template <typename T> 
+void check_f_contiguity(py::array_t<T> V, const std::string name = "arg")
+{
+  auto V_buf = V.request();
+  if (V_buf.ndim != 2 || V_buf.strides[1] == sizeof(T)) {
+      throw std::runtime_error(name+" must be F-contiguous (ColMajor) with a 2D shape.");
+  }
+};
 
 template <int DIM>
 void init_AABB(py::module_ &m)
 {
+  using namespace Eigen;
   using MatrixXdRowMajor = Eigen::Matrix<double,Eigen::Dynamic,Eigen::Dynamic,Eigen::RowMajor>;
   using MatrixXiRowMajor = Eigen::Matrix<int,Eigen::Dynamic,Eigen::Dynamic,Eigen::RowMajor>;
-  using MapMatrixXdRowMajor = Eigen::Map<MatrixXdRowMajor>;
-  using MapMatrixXiRowMajor = Eigen::Map<MatrixXiRowMajor>;
-  using DerivedV = MapMatrixXdRowMajor;
+  using MapMatrixXdRowMajor = Eigen::Map<const MatrixXdRowMajor>;
+  using MapMatrixXiRowMajor = Eigen::Map<const MatrixXiRowMajor>;
+  using MapMatrixXd = Eigen::Map<const Eigen::MatrixXd>;
+  using MapMatrixXi = Eigen::Map<const Eigen::MatrixXi>;
+  using DerivedV = MapMatrixXd;
   using AABB_f64_DIM = igl::AABB<DerivedV,DIM>;
   py::class_<AABB_f64_DIM >(m, (std::string("AABB_f64_")+std::to_string(DIM)).c_str() )
     .def(py::init([]()
@@ -42,11 +53,11 @@ void init_AABB(py::module_ &m)
           throw std::runtime_error("Input matrices must be 2-dimensional.");
         }
 
-        check_c_contiguity(V,"V");
-        check_c_contiguity(F,"F");
+        check_f_contiguity(V,"V");
+        check_f_contiguity(F,"F");
 
-        MapMatrixXdRowMajor V_eigen(static_cast<double*>(V_buf.ptr), V_buf.shape[0], V_buf.shape[1]);
-        MapMatrixXiRowMajor F_eigen(static_cast<int*>(F_buf.ptr), F_buf.shape[0], F_buf.shape[1]);
+        MapMatrixXd V_eigen(static_cast<double*>(V_buf.ptr), V_buf.shape[0], V_buf.shape[1]);
+        MapMatrixXi F_eigen(static_cast<int*>(F_buf.ptr), F_buf.shape[0], F_buf.shape[1]);
 
         self.init(V_eigen, F_eigen);
       }, py::arg("V"), py::arg("F"))
@@ -59,20 +70,20 @@ void init_AABB(py::module_ &m)
         const bool return_closest_point = false) ->
       std::variant<py::object,std::list<py::object> >
     {
-      check_c_contiguity(V,"V");
-      check_c_contiguity(F,"F");
-      check_c_contiguity(P,"P");
+      check_f_contiguity(V,"V");
+      check_f_contiguity(F,"F");
+      check_f_contiguity(P,"P");
 
       auto V_buf = V.request();
       auto F_buf = F.request();
       auto P_buf = P.request();
-      MapMatrixXdRowMajor V_eigen(static_cast<double*>(V_buf.ptr), V_buf.shape[0], V_buf.shape[1]);
-      MapMatrixXiRowMajor F_eigen(static_cast<int*>(F_buf.ptr), F_buf.shape[0], F_buf.shape[1]);
-      MapMatrixXdRowMajor P_eigen(static_cast<double*>(P_buf.ptr), P_buf.shape[0], P_buf.shape[1]);
+      MapMatrixXd V_eigen(static_cast<double*>(V_buf.ptr), V_buf.shape[0], V_buf.shape[1]);
+      MapMatrixXi F_eigen(static_cast<int*>(F_buf.ptr), F_buf.shape[0], F_buf.shape[1]);
+      MapMatrixXd P_eigen(static_cast<double*>(P_buf.ptr), P_buf.shape[0], P_buf.shape[1]);
 
       Eigen::VectorXd sqrD; 
       Eigen::VectorXi I;
-      MatrixXdRowMajor C;
+      MatrixXd C;
       self.squared_distance(V_eigen,F_eigen,P_eigen,sqrD,I,C);
       if(return_index && return_closest_point)
       {

src/in_element.cpp

@@ -11,7 +11,8 @@
 #include <igl/in_element.h>
 #include <igl/AABB.h>
 
-using AABB_f64_3 = igl::AABB<Eigen::MatrixXd,3>;
+using AABB_f64_3 = igl::AABB<Eigen::Map<const Eigen::MatrixXd>,3>;
+using AABB_f64_2 = igl::AABB<Eigen::Map<const Eigen::MatrixXd>,2>;
 const char* ds_in_element = R"igl_Qu8mg5v7(
 Determine whether each point in a list of points is in the elements of a mesh.
  
@@ -36,13 +37,13 @@ npe_arg(aabb, AABB_f64_3)
 npe_begin_code()
 
   Eigen::VectorXi I;
-  igl::in_element(V,Ele,Q,aabb,I);
+  Eigen::Map<const Eigen::MatrixXd> V_map(V.data(),V.rows(),V.cols());
+  igl::in_element(V_map,Ele,Q,aabb,I);
   return npe::move(I);
 
 npe_end_code()
 
 
-using AABB_f64_2 = igl::AABB<Eigen::MatrixXd,2>;
 npe_function(in_element_2)
 npe_doc(  ds_in_element)
 npe_arg(V, Eigen::MatrixXd)
@@ -52,7 +53,8 @@ npe_arg(aabb, AABB_f64_2)
 npe_begin_code()
 
   Eigen::VectorXi I;
-  igl::in_element(V,Ele,Q,aabb,I);
+  Eigen::Map<const Eigen::MatrixXd> V_map(V.data(),V.rows(),V.cols());
+  igl::in_element(V_map,Ele,Q,aabb,I);
   return npe::move(I);
 
 npe_end_code()