欧盟委员会的AI专家组已发布了对迅速发展的技术的评估,并警告说它具有“无法想象的”道德风险。
其中一些突出的风险包括致命的自治系统,跟踪个人以及在社会中“给人得分”。
关于致命的自治系统,专家们警告说,具有认知技能的机器可以“决定在没有人工干预的情况下与谁,何时何地进行战斗”。
在跟踪个人时,专家预见到了非自愿使用的人的生物识别数据,例如“通过微表情检测或说谎评估”。
在反乌托邦系列《黑镜》中饰演公民得分之后,有些人开始想到。专家指出,评分标准必须透明且公平,分数具有挑战性
该准则已经制定了好几年,并与一个试验项目一起启动,以测试它们在实践中的工作方式。
来自欧洲各个领域的专家参加了会议,其中包括伯明翰和牛津大学的学术律师。
他们得出结论:“构建值得信任的AI系统非常重要,因为只有在技术(包括流程和技术背后的人员)是值得信赖的情况下,人类才能自信和充分地收获其收益。”
整个欧盟都希望在未来十年中每年投资200亿欧元(170亿英镑),以弥合目前欧洲发展与亚洲和北美发展之间的差距。