可怕的机械人叛变 叫它撞墙学懂say no

人工智能会是将来科技的方向，但人类是不是真的可以控制人工智能，或者机械人？美国麻省塔夫斯大学（Tufts University）研究员早前设定两个机械人的程式，尝试叫它们做一些“危险动作”，机械人内置的系统竟然懂得拒绝执行指令。

大学工程师布里格斯（Gordon Briggs）与朔伊茨（Matthais Scheutz），早前创造了机械人“谢弗”和“登普斯特”，然后再教它们如何拒绝人类的命令。他们在论文中指出：“人类懂得以不同理由，拒绝指令…其实随着人工智能的发展，愈来愈多人关注机械伦理，而机械人懂不懂拒绝人类指令，也有愈来愈多人关注。”

为了让机械人分辨何时需要拒绝指令，布里格斯及朔伊茨均在机械人的软件中，加入“推理”这个功能，机械人在接收指令时，也会分析现场四周环境，确保自己的“人身”安全。例如，机械人会懂得分辨前方是不是有障碍物，若它发现有障碍物在前，就会拒绝继续前进；但若发指令者告诉机械人：“前方的障碍物不是坚硬的。”那机械人就会继续前进。

有人担心，这项技术将会令人类更难控制机械人，甚至引发机械人“叛变”。不过布里格斯与朔伊茨指出，以目前的科技是不可能达成“机械人自主”的层面，因为人类需要把更多的情景、对话及推理模式，加入机械人软件中。