回归训练模型选型

关于回归预测有三种常见方案：

1. 机器学习： 随机森林，或者XGboost
2. 神经网络： MLP：多层感知机
3. 神经网络： Transform：注意力机制

选择哪一种技术用来做回归主要分2个因素：

1. 数据量： 1W以下用XGboost， 10W以上用MLP神经网络，100W以上用Transform
2. 数据形态： 训练数据的复杂性高，特征之间关系复杂，高度非线性

综合以上信息，我是想计算算子计算时间的回归估计，数据量基本会小于1W，数据也不复杂，就是

1. 算子类型
2. 计算类型
3. shape信息（batch, channel, height, width）

所以选择XGboost即可。