在快速行动和打破常规的口号早已在科技创业公司中普及之前，黑客文化已经成为软件工程的命脉[1、2]。从克里斯·拉特纳[3]到比尔·盖茨的计算机行业领导者都讲述了他们年幼时坏坏并重新组装了收音机和其他小玩意，最终因其可入侵性而被计算机所吸引。如果不是硅谷本身不是由戈登·弗兰奇(Gordon French)和弗雷德·摩尔(Fred Moore)创办的“家庭酿造俱乐部”发起的黑客道场活动，那么它可能永远不会成为世界创新的温床。

计算机程序员仍然通过遵循行业公认的过程(例如测试驱动的开发和敏捷方法论)来努力快速移动和迭代事物，开发和部署可靠，强大的软件。在一个理想的世界中，程序员可以遵循这些惯例来编写原始软件。然而时间就是金钱。在编码人员可以在发布之前正确完成软件开发之前，必须经过激进的，由业务驱动的截止日期。加上快速发布和热修复(或动态更新功能[4])的现代最佳实践，可部署软件的门槛更低。像Apple这样的公司甚至以发布缺少软件功能的手机硬件而引以为傲：Deep Fusion 图像处理是最新iPhone发行几个月后的iOS更新的一部分[5]。

软件交付变得越来越快是进步的标志。软件仍在吞噬世界[6]。但这也容易受到滥用：快速软件流程用于发布修补程序和完成新功能，但也用于发布不完整的软件，这些软件将在以后进行修复。特斯拉已经成为“空中飞人”更新的代言人，可以提高驾驶性能和电池容量，或错误地阻止它们[7]。天真的消费者称赞特斯拉将其带给老式汽车行业的技术至上，软件优先的方法。然而，业内专业人士批评特斯拉的鲁ck性：在道路上进行1800kg的车辆的A / B测试[8]的风险要比在Facebook上试验新功能的风险稍高。

将Tesla Autopilot和机器学习算法添加到组合中，这将变得更加棘手。从定义上讲，机器学习系统是概率性的和随机的-在实时环境中进行预测，做出反应和学习-更不用说到处都是测试的极端案例和对无法预见的场景的脆弱性。

软件系统的巨大进步使工程师无论好坏都可以快速，反复地移动。现在，随着机器学习系统(或“软件2.0” [9])的巨大进步，工程师可以无缝地构建和部署涉及人，机器和环境的决策系统。

“当前的危险是工程师的工具集已广泛可用，但理论上的保证和正确流程的发展尚未部署。因此，尽管深度学习出现在工程专业的面貌，但它却缺少一些理论上的检验，而从业者冒着跌倒的风险。”

Neil Lawrence，剑桥大学ML的DeepMind教授

加里·马库斯(Gary Marcus)在他最近的《重新启动AI》[10] 一书中，在深度学习和药理学之间进行了令人发指的类比：深度学习模型比传统软件系统更像药物。生物系统是如此复​​杂，因此很难完全了解和预测药物的作用。关于药物如何起作用的理论可能含糊不清，而且可行的结果来自实验。传统软件系统具有确定性和可调试性(因此非常强大)，而药物和深度学习模型是通过实验开发并部署的，而没有基本的了解和保证。AI研究过程通常是先进行实验，然后再证明结果。它应该是假设驱动的，具有科学的严格性和彻底的测试过程。

“我们缺少的是一门具有分析和设计原理的工程学科。”

迈克尔·乔丹(Michael Jordan)，加州大学伯克利分校教授[11]

在进行土木工程之前，有一些建筑物以不可预见的方式倒在了地上。如果没有经过验证的深度学习(以及整个机器学习)工程实践，我们将面临同样的风险。

也不建议将其极端化。考虑一下过去十年中航天器工程的转变：高效的运营和快速的文化对SpaceX和其他初创公司(例如Astrobotic，Rocket Lab，Capella和Planet)的成功至关重要。NASA无法跟上创新的步伐-而是与太空创业生态系统合作并提供支持。尽管如此，机器学习工程师仍然可以从一个组织中学到一两个东西，该组织在部署新颖技术以与人类生命息息相关的大规模协调方面拥有令人难以置信的业绩。

格蕾丝·霍珀(Grace Hopper)提倡快速行动：“这给我带来了我可以给大家的最重要的建议：如果您有一个好主意，而且是一个贡献，我希望您继续前进并做到这一点。道歉要比获得许可容易得多。” 希望她的动力和意图不会对工程师和科学家失去。