朝鲜日报 中文网

在日本，被称为“机器人之父”的森昌弘1970年测试了人对机器人的好感度。机器人的外形和行为越像人，好感度就越高，但超过一定程度就会变成强烈的反感。如果彻底无法区别机器人和人，这种反感就会重新转化为好感。在这个图表中出现了“恐怖谷”理论。在动画片和机器音方面也会出现同样的反感。在与人似是而非的存在身上感受到的不协调感和不自然，是形成恐怖谷的原因。

▶加拿大接连发生了新型电话诈骗案。儿子和孙子打电话说自己被关在拘留所，焦急地要求汇款，就转账了一大笔钱，但其实是诈骗。儿子和孙子完美无缺的声音的真面目，是用人工智能（AI）制作的机器音。虽然几十年前就有用人声朗读文字的技术，但发音和语调并不完美。但该技术与AI相结合后，不仅轻松跨越了恐怖谷，还达到了能蒙骗家人的水平。

▶制造AI声音的技术称为“音频深度伪造（deepfake）”。就是说，这是用现有数据训练AI的深度学习（deep learning）技术合成的假声音。两年前，制作一个人的AI声音需要两个多小时的语音文件和几天的时间。而现在只要有这个人的几句语音，用几秒钟就能做出来。还可以通过社交媒体上的短视频或语音信息进行操作。如今已经到了没有密码也能夺走一切的时代。

▶深度伪造还能将图像和视频制作得天衣无缝。也发生过将明星的脸和别人的裸体合成，或者把别人有问题的讲话做得好像某著名政客的讲话一样的案件。首创了Chat GPT的Open AI的图像生成AI“DALL-E 2”超越了合成，制造出世界上前所未有的图像。美国甚至有预测称，AI会很快占据色情市场，因为它可以制作出人们所认为的最完美的演员。

▶深度伪造让20多岁的新人演员尹汝贞出现在广告中，还让30多岁的崔岷植出现在电视剧赌场里，还通过视频让《田园日记》里的已故演员朴允培复活。音频深度伪造也是在不需要本人亲自录音的情况下制作大量语音内容的有效手段。但在人们对AI感到惊讶和神奇的同时，有人开始恶意利用AI。世界上没有比不受控制的尖端技术更具威胁性的东西。AI也是如此。