计量经济学家的机器学习自述手册(2)

用 William Greene（他写的计量经济学就像一本大字典）的话来说，“多元回归的概念，尤其是线性回归模型构成了大多数计量经济学建模的基础平台，即使线性模型本身最终并未用作经验规范”。 多元线性回归建模不是现代技术。它的历史至少可以追溯到 1795 年，当时高斯将普通最小二乘法 (OLS) 应用于测地线和天文数据集。有趣的是，高斯认为 OLS 是如此明显以至于不值得被发表出来。英国优生学家弗朗西斯·高尔顿爵士在 1886 年创造了“回归”一词，他通过估计线性方程来论证遗传的人类身体和道德特征表现出向平均值回归的特点。接近 20 世纪之交，卡尔·皮尔森参考高尔顿的论点创造了“回归线”一词，并引入了矩方法（80 年后由诺贝尔经济学奖得主Lars Hansen推广，所谓的GMM）。在接下来的几年里，Ronald Fisher 研究并证明了回归分析的数学性质，并推广了最大似然估计。这些想法催生了我们今天计量经济学研究的大部分内容。标准计量经济学教科书的内容最能体现其经典（推荐基本计量教材，例如，Tsay [2013]、Greene [2012]、Wooldridge [2010]、Hayashi [2000]）。 经济学家使用的同样的定量标准应用于生物数据集时被称为生物统计学，应用于化学数据集时被称为化学计量学。然而，即使是入门级的生物统计学和化学计量学教科书也经常包含高级聚类、模式识别或计算方法，而这些方法在流行的计量经济学教科书中基本上没有或很少强调（不信，你可以看看 Greene [2012] 、 Otto [2016] 和 Balding [2007]的书籍）。计算方法在这些学科中变得尤为重要，因为它们可以取代一些（可能是不切实际的）关于数据生成过程的假设。 许多先锋经济学家对经济学家未充分利用数据驱动和数值方法以及过度使用基于任意假设的结构模型表示失望。例如，诺贝尔奖获得者 Wassily Leontief 大约在 40 年前就表达了这种担忧（Leontief [1982]）： “经济学家们从一开始就没有接受自然科学和历史科学的同行们传统上强加给他们的、并接受的那种系统的事实调查的严酷纪律，因此他们对演绎推理产生了一种几乎不可抗拒的偏好。事实上，许多人在专攻纯数学或应用数学后进入该领域。一页又一页的专业经济期刊充满了数学公式，引导读者从几组或多或少似是而非但完全武断的假设转向精确陈述但不相关的理论结论。” 对经济学文献的简单文献计量分析表明，Leontief 的哀叹在很大程度上仍然适用于今天。例如，Web of Science报告称，已经发表了 13,772 篇涉及“经济学”和“统计与概率”交叉学科的期刊文章。在这些出版物中，只有 89 篇文章 (0.65%) 包含以下任一术语：分类器、聚类、神经网络或机器学习。相比之下，在“生物学”和“统计与概率”交叉领域的 40,283 篇文章中，共有 4,049 篇（10.05%）包含这些术语中的任何一个。在“化学、分析”和“统计与概率”交叉领域的 4,994 篇文章中，共有 766 篇（15.34%）包含这些术语中的任何一个。这种差距的部分原因是旧经济数据集的缺陷，它可能限制了机器学习和其他数据密集型技术的使用。然而，面对新的非结构化、高维、稀疏、非数字经济数据集，这种差距应该在几年前缩小。制度阻力继续阻止学术经济学家采用 ML 技术，部分原因是同行评审和任期过程今天仍然有利于坚持计量经济学经典。这种对现代化的抵制反映在基金管理公司身上，因为这些公司(遗憾地)在几十年前就发现了期刊文章对投资基金营销的有效性。 经济和金融数据的爆炸式增长应该鼓励从业者重新考虑拟合简单模型的适当性。新的可用数据集包括社交媒体、从网站上抓取的元数据、卫星图像、传感器数据、从文本中提取的情绪以及交易所生成的微观结构数据。SINTEF 估计，过去两年收集了所有可用数据的 90%。国际数据公司估计，所有可用数据中有 80% 是非结构化数据，因此他们不适用于传统的定量分析方法。几年前还没有这些详细的信息来源，它们最终为我们提供了发展基于丰富实证证据的经济理论的可能性。然而，这些也是 21 世纪的数据集，其结构无法用传统的计量经济学工具轻易揭示。下一节将回顾其他领域如何应用 ML。