Go to contents

THE DONG-A ILBO Logo

AI的第四原则

Posted August. 02, 2017 07:33,   

Updated August. 02, 2017 08:13

한국어

本月初,优兔上发布了一段谷歌人工智能喇叭之间对话的视频,让像我这样一直认为人工智能喇叭只和人类对话的人大吃一惊。尽管对话是“什么是爱?”“孩子不会伤害我”这类驴唇不对马嘴的内容,但想想如果继续发展下去会怎样,不禁令人发毛,人工智能之间如果实现了相互沟通,也许能够摆脱人类的控制。

据说,实际上在人工智能研究所里,进行很多人工智能的对话试验。其目的主要是从声音识别的角度确认人工智能是否正确发声和听取,但现在已有征兆显示,人工智能在向试验通过言语传达和接受知识的方向发展。例如,懂得电影的人工智能和懂得音乐的人工智能通过对话相互学习。

最近发生在脸书的人工智能研究所发生了一件事,两个人工智能聊天机器人CHATBOT相互用隐语进行对话,开发人员不得不强行关闭系统。聊天机器人鲍勃说道:“I I can I I I everything else”,而爱丽丝回答说:“‘balls have a ball to me”,而且最后的“to me”反复了7次。虽然是不通的英语,但看起来有可能是速记性隐语。是不是可以说,这就像青少年用大人听不懂的难度较大的缩略语进行对话呢?

俄罗斯出生的美国SF作家艾萨克·阿西莫夫在1942年发表的短篇小说《转圈圈》中提出了机器人三定律。第一定律是,机器人不能对人类带来危害,也不能对人类陷入危险而袖手旁观;第二定律是,机器人必须服从人类的命令,但如果同第一定律相违背时除外;第三定律是,机器人应该保护自己,但违背第一和第二定律时除外。现在看起来,应该再加上第四条定律,即机器人必须用人类听得懂的正常的语言进行对话。