普雷斯在自己的专著中举了在谷歌工作的劳拉的案例。毕业于都柏林三一学院的高才生劳拉曾在谷歌参与一个改进谷歌图像数据分类的机器学习项目,踌躇满志的她原以为这项技术能够更好地便利于人们的生活,然而,她最终发现这是谷歌秘密开发的“梅文计划”,这项与美国国防部签订的人工智能项目,是为了增强美国军方无人机的跟踪、识别车辆与行人的能力。
劳拉深感震惊,“她曾经认为,扫描世界上所有的书籍,覆盖非洲十亿用户,这些才是谷歌的使命。” 其中,并不包括帮助美国军方。对于大型高科技企业中的员工来说,这种“无意中的为恶”可能是他们经常面对的困境。
在互联网公司带着满腔热情参与头脑风暴,认为自己能够提供真正有益于他人的创意,最终却发现自己不过在服务于用“人性下坠的力量挣钱”,生产“奶头乐”产品。比起困惑于工作的成效,意识到自己的工作可能是在“助纣为虐”往往是一种更严重的“精神工伤”。
普雷斯指出,在一个公司系统高度发展的时代,人们的工作逐渐被规范性技术分割成了无数细小的步骤,人们被迫只能专注于自己被分配的任务,难以纵览全局,这也让工作的道德后果变得不可见,“无意中为恶”自然就很容易发生了。
http://www.dxsbao.com/art/659484.html 点此复制本页地址