朝鲜日报 中文网

改变全球产业模式的人工智能（AI）革命是从美国OpenAI在2022年11月发布ChatGPT后正式开始的。5月，OpenAI发布宛如科幻（SF）电影般，能够与人实时对话并捕捉人类情绪的生成式AI模型“GPT-4o”，再次震惊全球。随之而来的AI支配人类的时代即将到来的恐惧也越来越大。在拥有全球最先进AI技术的OpenAI里，全权负责新产品发布时间等未来战略和围绕AI的伦理、法律问题的首席战略官（CSO）是一位韩裔美国人，名叫杰森·权。除技术开发以外，OpenAI正在制定AI相关的全球标准。

7日，在美国旧金山OpenAI总部，杰森·权接受记者采访称：“通用人工智能（AGI，智能超越人类的AI）的核心技术开发时间点可能比所有人想象的要快。”当前普遍认为AGI将在3至5年后出现，但他预测时间可能会提前。但他表示：“我们不会一夜之间发布全知全能的AI。”当记者问道：“是因为可能会对社会造成巨大冲击（crash）吗”，他表示：“是的。”言下之意，通用AI技术开发已经达到相当高的水平，但考虑到副作用，正在调整发布速度。这是杰森·权第一次接受韩国媒体采访。

-你的意思是距离AGI出现没剩多长时间了吗？

“我们假设这项技术即将成为实现，正在寻找恰当管理它的方法。但并非技术实现了，立马就会推出产品。正如人类在发明电之后，不是第二天立刻就出现了灯具和家电产品一样。核心技术以产品的形态发布，并应用于社会可能需要很长的时间。”

“我们解散了AI管控团队？误会大了”

-有预测认为，新一代GPT5的技术实力将接近AGI。

“（笑着说）我觉得公开时会有更多话题可以聊。”

记者反复问及OpenAI新一代AI模型GPT5的发布时间和性能等，但杰森·权都没有给出明确答复。起初外界预测会在10月举行的OpenAI开发者大会上公布，但技术业界认为，公布时间很可能推迟到明年。

-在OpenAI看来，AGI在哪个方面最具危险性？

“可以招致所谓‘灾难性危险’的大致有四个领域。极端的说服能力，网络攻击，支援核武器和化学、生物武器，最后是AI模型的自主性。”

这里的AI极端说服能力是指AI利用多种数据，使人类盲目地相信某一事件。AI模型的自主性则是指AI自行生成学习数据并进行学习和进化。关于支援化学、生物武器，他表示：“如果有人尝试利用AI进行生物学上的危险作业，需要确认使用者身份并加以管理。我认为，截至目前，AI并不比谷歌等搜索引擎更危险”，“但AI创造出世上不存在的知识，脱离人类的控制是最危险的。”

-但OpenAI不是解散了负责管控AI的团队（Superalignment）吗？

“这是极大的误解。Superalignment仍在进行原本的‘对齐工作’。只是对所属成员进行了适当的重新部署。我们内部正在开发拒绝用户危险要求的安全技术，以及利用AI模型监管有网络攻击等不良行为的用户的技术等。”

“对齐（alignment）工作”是指操纵和控制AI系统按照人类设定的目标或伦理原则运行的技术。

“AI事业收益重新投资安全研究”

-最近有舆论谴责，AI企业重视收益性而忽视安全性。

“事实并非如此。挣钱和安全绝非背道而驰的概念。让事业获得成功，再将收益重新投资到安全研究上，这才是健康的结构。汽车产业也将卖汽车赚来的钱投资到研究上，汽车的安全性不是因此得到了发展吗？如果我们赚不到钱，当前开展的诸多安全相关研究也绝不可能存在。”

-人类有能力应付AGI的威胁吗？

“AGI会给世界带来什么样的后果，无人知晓。但企业必须做好准备。我的工作是提供有用的信息，帮助预测和判断AGI会带来哪些社会心理、经济上的冲击，应该如何制定相关法律，以及企业如何与世界政府进行合作等。AI应受到管控是我们一贯的立场，且立场不会改变。”

-最近，OpenAI开发出检查学生不正当使用AI的技术却不公开，受到了舆论批评。

“这项技术仍在测试中，还不完美。总的来说，比起人们因为使用技术而受到不正当指责的世界，我们更想创造一个多数人通过技术获得帮助的世界。如果AI被不正当使用，背后有诸多原因。仅凭确认是否使用AI的检查技术，老师们很有可能做出错误的判断。我们不能向人们提供不完美的技术，又告诉他们‘放心’。”

12日，在首尔的首尔大学主办的“首尔AI政策会议2024”上，杰森·权作为主题发言人，以“尖端AI的安全”为主题，与首尔大学法学院副教授林龙进行对话。他还为世界主要国家的AI政策制定提供建议。

“韩国人才应培养网络的力量”

-最近，OpenAI的CEO奥特曼称，AI应该由美国来主导。

“不是说应该只有美国能拥有AI技术。他的意思是，比起将AI用于恐怖袭击的独裁国家，实现‘民主性AI’更为重要。现实中，诸多AI公司和人才都聚集在美国硅谷。美国有责任在AI的使用和推广上发挥示范作用。美国的同盟国，尤其是韩国，作为在AI领域上开创优秀先例的国家，我认为会起到重要的作用。”

-你想给韩国的AI人才提出什么建议？

“韩国的AI能力已经非常出色。OpenAI的顶级研究员中也有不少韩裔。但我觉得，韩裔人才忽视了网络的力量。我本人性格也十分内向。但我还是在硅谷不断地与人见面、沟通、抓住机会，才走到了现在这个位置。在这里，只有优秀和诚实并不能保证成功。我希望，视谦虚为美德的韩国人能够表现出比想象中更大的进取精神。”

☞ 杰森·权是谁

韩裔美国人，4岁时，跟随专攻机械工程的父亲移民到美国爱荷华州。在乔治敦大学攻读外交学，后在伯克利大学获得法学博士学位。第一份工作是软件工程师。与大学的专业无关，小时候父亲送给他一台电脑，他靠玩电脑积累了编程实力。在考取律师资格证后，2011年在律所工作时，结识了后来的OpenAI创始人，当时25岁的山姆·奥特曼。此后，他在奥尔特曼领导的初创支持机构工作，2021年加入OpenAI。在2023年的OpenAI“驱逐奥特曼事件”中，他力挺奥特曼。