example_logisticregression_ce.cpp

Programa para el testeo de las funciones.Para compilar o código example_logisticregression_ce.cpp:

g++ -static -o example_logisticregression_ce example_logisticregression_ce.cpp -lpdsmlmm 

Para executar o programa:

./example_logisticregression_ce

Retornando por consola:

┌──────────────────────────────┐
│    CE                        │
│    IterationConf init data   │
├──────────────────────────────┤
│           Alpha: 0.1         │
│          Lambda: 0           │
│   MinError ΔW/W: 1.0000e-07  │
│         MaxIter: 2000        │
└──────────────────────────────┘
┌──────────────────────────────┐
│            Iter: 2000        │
│           Alpha: 1           │
│  LastError ΔW/W: 3.0991e-04  │
│ Cost Func Error: 8.5834e-02  │
└──────────────────────────────┘
┌──────────────────────────────┐
│    CE                        │
│    IterationConf end data    │
├──────────────────────────────┤
│           Alpha: 1           │
│  LastError ΔW/W: 3.0991e-04  │
│        LastIter: 2000        │
└──────────────────────────────┘
W:
-0.017605589142825      12.785358849235 12.74545638066
Elapsed time: 1.6602043666667 min

╔═══════════════════════════════════╗
║    ClassificationMetrics data     ║
╠═══════════════════════════════════╣
║        Threshold: 0.49            ║
║          Samples: 4000            ║
╠═══════════════════════════════════╣
║ Pred.[0]/Act.[*]: 1994    0       ║
║ Pred.[1]/Act.[*]: 6       2000    ║
╠═══════════════════════════════════╣
║         Accuracy: 99.85 %         ║
║        Precision: 99.7  %         ║
║           Recall: 100   %         ║
╠═══════════════════════════════════╣
║           FScore: 99.85 %         ║
╚═══════════════════════════════════╝

╔═══════════════════════════════════╗
║    ClassificationMetrics data     ║
╠═══════════════════════════════════╣
║        Threshold: 0.49            ║
║          Samples: 4000            ║
╠═══════════════════════════════════╣
║ Pred.[0]/Act.[*]: 1961    1       ║
║ Pred.[1]/Act.[*]: 8       2030    ║
╠═══════════════════════════════════╣
║         Accuracy: 99.78 %         ║
║        Precision: 99.61 %         ║
║           Recall: 99.95 %         ║
╠═══════════════════════════════════╣
║           FScore: 99.78 %         ║
╚═══════════════════════════════════╝

Clasification - data

Clasification - training

Clasification - testing

Código example_logisticregression_ce.cpp:

 
#include <iostream>
#include <Pds/Ra>
#include <Pds/Ml>
        
int main(void)
{
    Pds::IterationConf Conf;    Conf.Show=true; Conf.SetMinError(1e-07); Conf.SetAlpha(0.1);
    Pds::Vector Yp;
    Pds::ClassificationMetrics Metrics;
    
    /*
    Pds::Matrix X(Pds::Ra::TextFormat,"../test/hard2-data-x.txt");
    Pds::Vector Y(Pds::Ra::TextFormat,"../test/hard2-data-y.txt");
    */
    
    // Generating data
    unsigned int L=10000;
    Pds::Matrix X;
    Pds::Vector Y;
    Pds::DataSet::Classification::LoadDataLine(L,X,Y);
    
    // W0
    Pds::Vector W;
    W=Pds::LogisticModel::GetW0MeanSquareMethod(X);
    
    Pds::Octave::YLimits=true;
    Pds::Octave::XLabel="x_1";
    Pds::Octave::YLabel="x_2";
    Pds::Octave::Plot::PointsX2DYW(X,Y,W,"testando.m","example_logisticregression_ce_data.png");
    
    // Split data set in {Training,Cross-validation,Test}
    Pds::DataSetBlock Dat=Pds::DataSet::Split(X,Y,6,2,2);
    
    // Create W using training data
 
    Pds::Ra::Tic();
    W=Pds::LogisticModel::FittingGradientCrossEntropy(Conf,Dat.Xtr,Dat.Ytr,W);
    W.T().Print("W:\n");
    Pds::Ra::Toc();
    
    // Testing W with testing data set
    Yp=Pds::LogisticModel::Classify(W,Dat.Xcv);
    
    // Metrics  
    Metrics = Pds::ClassificationMetrics::Optimal(Yp,Dat.Ycv);
    Metrics.Print("\n");
    
    Pds::Octave::Plot::ScatterX2DYW(Dat.Xcv,Yp,W,"testando.m","example_logisticregression_ce_training.png");
    
    // Testing W with testing data set
    Yp=Pds::LogisticModel::Classify(W,Dat.Xtt);
    
    Metrics = Pds::ClassificationMetrics::Calculate(Metrics.Threshold,Yp,Dat.Ytt);
    Metrics.Print("\n");
    
    Pds::Octave::Plot::ScatterX2DYW(Dat.Xtt,Yp,W,"testando.m","example_logisticregression_ce_testing.png");
    
    return 0;
}