fixed case of var_type==0 (ticket 397)

modules/ml/src/ertrees.cpp

@@ -148,8 +148,8 @@ void CvERTreeTrainData::set_data( const CvMat* _train_data, int _tflag,
     if ( sample_count < 65536 )  
         is_buf_16u = true;                                
     
-  
+    if( _var_type )
-    CV_CALL( var_type0 = cvPreprocessVarType( _var_type, var_idx, var_count, &r_type ));
+        CV_CALL( var_type0 = cvPreprocessVarType( _var_type, var_idx, var_count, &r_type ));
 
     CV_CALL( var_type = cvCreateMat( 1, var_count+2, CV_32SC1 ));
    
@@ -162,8 +162,8 @@ void CvERTreeTrainData::set_data( const CvMat* _train_data, int _tflag,
     // step 0. calc the number of categorical vars
     for( vi = 0; vi < var_count; vi++ )
     {
-        var_type->data.i[vi] = var_type0->data.ptr[vi] == CV_VAR_CATEGORICAL ?
+        char vt = var_type0 ? var_type0->data.ptr[vi] : CV_VAR_ORDERED;
-            cat_var_count++ : ord_var_count--;
+        var_type->data.i[vi] = vt == CV_VAR_CATEGORICAL ? cat_var_count++ : ord_var_count--;
     }
 
     ord_var_count = ~ord_var_count;

modules/ml/src/tree.cpp

@@ -252,8 +252,8 @@ void CvDTreeTrainData::set_data( const CvMat* _train_data, int _tflag,
                   "floating-point vector containing as many elements as "
                   "the total number of samples in the training data matrix" );
    
-  
+    if( _var_type )
-    CV_CALL( var_type0 = cvPreprocessVarType( _var_type, var_idx, var_count, &r_type ));
+        CV_CALL( var_type0 = cvPreprocessVarType( _var_type, var_idx, var_count, &r_type ));
 
     CV_CALL( var_type = cvCreateMat( 1, var_count+2, CV_32SC1 ));
    
@@ -266,8 +266,8 @@ void CvDTreeTrainData::set_data( const CvMat* _train_data, int _tflag,
     // step 0. calc the number of categorical vars
     for( vi = 0; vi < var_count; vi++ )
     {
-        var_type->data.i[vi] = var_type0->data.ptr[vi] == CV_VAR_CATEGORICAL ?
+        char vt = var_type0 ? var_type0->data.ptr[vi] : CV_VAR_ORDERED;
-            cat_var_count++ : ord_var_count--;
+        var_type->data.i[vi] = vt == CV_VAR_CATEGORICAL ? cat_var_count++ : ord_var_count--;
     }
 
     ord_var_count = ~ord_var_count;