在发出《.NET Core玩转机器学习》和《使用ML.NET预测纽约出租车费》两文后，相信读者朋友们即使在不明就里的情况下，也能按照内容顺利跑完代码运行出结果，对使用.NET Core和ML.NET，以及机器学习的效果有了初步感知。得到这些体验后，那么就需要回头小结一下了，本文仍然基于一个情感分析的案例，以刚接触机器学习的.NET开发者的视角，侧重展开一下起手ML.NET的基本理解和步骤。
当我们意识到某个现实问题超出了传统的模式匹配能力范围，需要借助模拟的方式先尽可能还原已经产生的事实（通常也称为拟合），然后复用这种稳定的模拟过程（通常也称为模型），对即将发生的条件进行估计，求得发生或不发生相同结果的概率，此时就是利用机器学习最好的机会，同时也要看到，这也是机器学习通常离不开大量数据的原因，历史数据太少，模拟还原这个过程效果就会差很多，自然地，评估的结果误差就大了。所以在重视数据的准确性、完整性的同时，要学会经营数据的体量出来。
若要使用机器学习解决问题，一般会经历以下这些步骤：
1. 描述问题产生的场景
2. 针对特定场景收集数据
3. 对数据预处理
4. 确定模型（算法）进行训练
5. 对训练好的模型进行验证和调优
6. 使用模型进行预测分析
接下来我将用案例逐一介绍。
描述问题产生的场景
说到情感分析，我假定一个最简单的句子表达的场景，就是当看到一句话，通过特定的词语，我们能判断这是一个正向积极的态度，或是负面消极的。比如“我的程序顺利通过测试啦”这就是一个正向的，而“这个函数的性能实在堪忧”就是一个负面的表达。所以，对词语的鉴别就能间接知道说这句话的人的情感反应。（本案例为降低理解的复杂程度，暂不考虑断句、重音、标点之类的这些因素。）
针对特定场景收集数据
为了证实上面的思路，我们需要先收集一些有用的数据。其实这也是让众多开发者卡住的环节，除了使用爬虫和自己系统中的历史数据，往往想不到短时间还能在哪获取到。互联网上有不少学院和机构，甚至政府都是有开放数据集提供的，推荐两处获取比较高质量数据集的来源：
UC Irvine Machine Learning Repository来自加州大学
kaggle.com一个著名的计算科学与机器学习竞赛网站
这次我从UCI找到一个刚好只是每行有一个句子加一个标签，并且标签已标注好每个句子是正向还是负向的数据集了。在Sentiment Labelled Sentences Data Set下载。格式类似如下：
A very, very, very slow-moving, aimless movie about a distressed, drifting young man. 0
Not sure who was more lost - the flat characters or the audience, nearly half of whom walked out. 0
Attempting artiness with black & white and clever camera angles, the movie disappointed - became even more ridiculous - as the acting was poor and the plot and lines almost non-existent. 0
Very little music or anything to speak of. 0
The best scene in the movie was when Gerardo is trying to find a song that keeps running through his head. 1
The rest of the movie lacks art, charm, meaning... If it's about emptiness, it works I guess because it's empty. 0
Wasted two hours. 0
...
观察每一行，一共是Tab分隔的两个字段，第一个字段是句子，一般我们称之为特征（Feature），第二个字段是个数值，0表示负向，1表示正向，一般我们称之为目标或标签（Label），目标值往往是人工标注的，如果没有这个，是无法使用对历史数据进行拟合这种机器学习方式的。所以，一份高质量的数据集对人工标注的要求很高，要尽可能准确。
对数据预处理
对于创建项目一系列步骤，参看我开头提到的两篇文章即可，不再赘述。我们直接进入正题，ML.NET对数据的处理以及后面的训练流程是通用的，这也是为了以后扩展到其他第三方机器学习包设计的。首先观察数据集的格式，创建与数据集一致的结构，方便导入过程。LearningPipeline类专门用来定义机器学习过程的对象，所以紧接着我们需要创建它。代码如下：
const string _dataPath = @".\data\sentiment labelled sentences\imdb_labelled.txt";
const string _testDataPath = @".\data\sentiment labelled sentences\yelp_labelled.txt";
public class SentimentData
{
[Column(ordinal: "0")]
public string SentimentText;
[Column(ordinal: "1", name: "Label")]
public float Sentiment;
}
var pipeline = new LearningPipeline();
pipeline.Add(new TextLoader<SentimentData>(_dataPath, useHeader: false, separator: "tab"));
pipeline.Add(new TextFeaturizer("Features", "SentimentText"));
SentimentData就是我需要的导入用的数据结构，可以看到，Column属性除了指示对应数据集的行位置，额外的对应最后一列，表示正向还是负向的字段，还要指定它是目标值，并取了个标识名。TextLoader就是专门用来导入文本数据的类，TextFeaturizer就是指定特征的类，因为每一行数据不是每一个字段都可以成为特征的，如果有较多字段时，可以在此处特别地指定出来，这样不会被无关的字段影响。
确定模型（算法）进行训练
本案例目标是一个0/1的值类型，换句话说恰好是一个二分类问题，因此模型上我选择了FastTreeBinaryClassifier这个类，如果略有了解机器学习的朋友一定知道逻辑回归算法，与之在目的上大致相似。若要定义模型，同时要指定一个预测用的结构，这样模型就会按特定的结构输出模型的效果，一般这个输出用的结构至少要包含目标字段。代码片段如下：
public class SentimentPrediction
{
[ColumnName("PredictedLabel")]
public bool Sentiment;
}
pipeline.Add(new FastTreeBinaryClassifier() { NumLeaves = 5, NumTrees = 5, MinDocumentsInLeafs = 2 });
PredictionModel<SentimentData, SentimentPrediction> model = pipeline.Train<SentimentData, SentimentPrediction>();
对训练好的模型进行验证和调优
在得到模型后，需要用测试数据集进行验证，看看拟合的效果是不是符合预期，BinaryClassificationEvaluator就是FastTreeBinaryClassifier对应的验证用的类，验证的结果用BinaryClassificationMetrics类保存。代码片段如下：
var testData = new TextLoader<SentimentData>(_testDataPath, useHeader: false, separator: "tab");
var evaluator = new BinaryClassificationEvaluator();
BinaryClassificationMetrics metrics = evaluator.Evaluate(model, testData);
Console.WriteLine();
Console.WriteLine("PredictionModel quality metrics evaluation");
Console.WriteLine("------------------------------------------");
Console.WriteLine($"Accuracy: {metrics.Accuracy:P2}");
Console.WriteLine($"Auc: {metrics.Auc:P2}");
Console.WriteLine($"F1Score: {metrics.F1Score:P2}");
像Accuracy，Auc，F1Score都是一些常见的评价指标，包含了正确率、误差一类的得分，如果得分很低，就需要调整前一个步骤中定义模型时的参数值。详细的解释参考：Machine learning glossary
使用模型进行预测分析
训练好一个称心如意的模型后，就可以正式使用了。本质上就是再取来一些没有人工标注结果的数据，让模型进行分析返回一个符合某目标值的概率。代码片段如下：
IEnumerable<SentimentData> sentiments = new[]
{
new SentimentData
{
SentimentText = "Contoso's 11 is a wonderful experience",
Sentiment = 0
},
new SentimentData
{
SentimentText = "The acting in this movie is very bad",
Sentiment = 0
},
new SentimentData
{
SentimentText = "Joe versus the Volcano Coffee Company is a great film.",
Sentiment = 0
}
};
IEnumerable<SentimentPrediction> predictions = model.Predict(sentiments);
Console.WriteLine();
Console.WriteLine("Sentiment Predictions");
Console.WriteLine("---------------------");
var sentimentsAndPredictions = sentiments.Zip(predictions, (sentiment, prediction) => (sentiment, prediction));
foreach (var item in sentimentsAndPredictions)
{
Console.WriteLine($"Sentiment: {item.sentiment.SentimentText} | Prediction: {(item.prediction.Sentiment ? "Positive" : "Negative")}");
}
运行结果可以看到，其分类是符合真实判断的。尽管验证阶段的得分不高，这也是很正常的，再没有任何调优下，存在一些中性、多义的句子干扰预测导致的。
这样，再有新的句子就可以放心地通过程序自动完成分类了，是不是很简单！希望本文能带给.NET开发的朋友们对ML.NET跃跃欲试的兴趣。
顺便提一下，微软Azure还有一个机器学习的在线工作室，链接地址为：https://studio.azureml.net/，相关的AI项目库在：https://gallery.azure.ai/browse，对于暂时无法安装本地机器学习环境，以及找不到练手项目的朋友 ，不妨试试这个。
最后放出项目的文件结构以及完整的代码：
using System;
using Microsoft.ML.Models;
using Microsoft.ML.Runtime;
using Microsoft.ML.Runtime.Api;
using Microsoft.ML.Trainers;
using Microsoft.ML.Transforms;
using System.Collections.Generic;
using System.Linq;
using Microsoft.ML;
namespace SentimentAnalysis
{
class Program
{
const string _dataPath = @".\data\sentiment labelled sentences\imdb_labelled.txt";
const string _testDataPath = @".\data\sentiment labelled sentences\yelp_labelled.txt";
public class SentimentData
{
[Column(ordinal: "0")]
public string SentimentText;
[Column(ordinal: "1", name: "Label")]
public float Sentiment;
}
public class SentimentPrediction
{
[ColumnName("PredictedLabel")]
public bool Sentiment;
}
public static PredictionModel<SentimentData, SentimentPrediction> Train()
{
var pipeline = new LearningPipeline();
pipeline.Add(new TextLoader<SentimentData>(_dataPath, useHeader: false, separator: "tab"));
pipeline.Add(new TextFeaturizer("Features", "SentimentText"));
pipeline.Add(new FastTreeBinaryClassifier() { NumLeaves = 5, NumTrees = 5, MinDocumentsInLeafs = 2 });
PredictionModel<SentimentData, SentimentPrediction> model = pipeline.Train<SentimentData, SentimentPrediction>();
return model;
}
public static void Evaluate(PredictionModel<SentimentData, SentimentPrediction> model)
{
var testData = new TextLoader<SentimentData>(_testDataPath, useHeader: false, separator: "tab");
var evaluator = new BinaryClassificationEvaluator();
BinaryClassificationMetrics metrics = evaluator.Evaluate(model, testData);
Console.WriteLine();
Console.WriteLine("PredictionModel quality metrics evaluation");
Console.WriteLine("------------------------------------------");
Console.WriteLine($"Accuracy: {metrics.Accuracy:P2}");
Console.WriteLine($"Auc: {metrics.Auc:P2}");
Console.WriteLine($"F1Score: {metrics.F1Score:P2}");
}
public static void Predict(PredictionModel<SentimentData, SentimentPrediction> model)
{
IEnumerable<SentimentData> sentiments = new[]
{
new SentimentData
{
SentimentText = "Contoso's 11 is a wonderful experience",
Sentiment = 0
},
new SentimentData
{
SentimentText = "The acting in this movie is very bad",
Sentiment = 0
},
new SentimentData
{
SentimentText = "Joe versus the Volcano Coffee Company is a great film.",
Sentiment = 0
}
};
IEnumerable<SentimentPrediction> predictions = model.Predict(sentiments);
Console.WriteLine();
Console.WriteLine("Sentiment Predictions");
Console.WriteLine("---------------------");
var sentimentsAndPredictions = sentiments.Zip(predictions, (sentiment, prediction) => (sentiment, prediction));
foreach (var item in sentimentsAndPredictions)
{
Console.WriteLine($"Sentiment: {item.sentiment.SentimentText} | Prediction: {(item.prediction.Sentiment ? "Positive" : "Negative")}");
}
Console.WriteLine();
}
static void Main(string[] args)
{
var model = Train();
Evaluate(model);
Predict(model);
}
}
}
相关文章：
.NET Core玩转机器学习
使用ML.NET预测纽约出租车费
原文地址： http://www.cnblogs.com/BeanHsiang/p/9020919.html
.NET社区新闻，深度好文，欢迎访问公众号文章汇总 http://www.csharpkit.com
![P4593-[TJOI2018]教科书般的亵渎【拉格朗日差值】](https://img-blog.csdnimg.cn/20200805140250860.png#pic_center)
