裘雯涵
2013年滑雪意外导致严重颅部损伤后,“车王”迈克尔·舒马赫再未公开露面。但近日,一家德国杂志却用人工智能(AI)生成了一篇对舒马赫的“专访”。在文章引起广泛争议后,该杂志出版商已向这位传奇人物的家人致歉,杂志总编也火速被“炒”。舆论认为,AI技术的爆炸式发展和广泛应用正在引发“超现实主义的造假浪潮”,八卦杂志利用AI炮制的假新闻可能只是冰山一角。
用AI炮制“专访”
近日,德国《时事》杂志在封面上刊登了一张舒马赫微笑的照片,并配上“独家专访”标签,在网上引发热议。
该杂志声称这是舒马赫事故后的“首次采访”,还称这不是来自朋友、语焉不详的半句话,而是来自他本人——“54岁的舒马赫”的回答。
据英国《独立报》报道,所谓采访文章中“引用”舒马赫的话称,自从事故以来,他的生活已经彻底改变。对于他的妻子、孩子和整个家庭来说,那是一段可怕的时光。
“我受了重伤,在昏迷状态下躺了几个月,否则我的身体无法承受这一切。我经历了一段艰难的时期,但好在医院团队设法让我回到了家人身边。”
文章看似真实,但读者看完却纷纷大呼上当。原来,文章末尾承认,所谓引述内容并非来自舒马赫,而是用名为“Character.ai”的AI聊天机器人生成的。
看到这篇用AI炮制出的所谓“专访”,有网友评论称这篇文章“可耻”,还有德国媒体评论称文章“愚蠢得不像是真的”。
舒马赫家人则表示,已计划对《时事》杂志采取法律行动。
对此,《时事》杂志出版商丰克媒体集团不得不出面“灭火”。丰克媒体集团常务董事比安卡·波尔曼回应称,这篇文章“毫无品味”且具有误导性,根本不该出现。波尔曼称,《时事》杂志2009年以来的总编安妮·霍夫曼“即日起被解除职务”。
据悉,生于1969年的舒马赫是现代最伟大的世界一级方程式(F1)车手之一,曾在职业生涯中七夺车手总冠军。2013年12月29日,舒马赫在法国梅里贝勒滑雪场滑雪时发生意外,头部右侧与一块岩石相撞,虽佩戴着头盔但仍造成严重颅部损伤。自此之后,他一直在位于瑞士的家中休养,再未公开露面。
引发“造假浪潮”
德国八卦杂志利用AI伪造人物“专访”,再次引发有关AI被滥用的讨论。流行科技网站Engadget称,八卦杂志试水AI可能只是冰山一角。随着生成式AI的飞速发展,要将真实与虚构分开将变得愈发困难。
分析人士已警告称,随着AI的运用场景更加丰富,AI生成的文本、照片和视频等被滥用的趋势更值得警惕。AI很可能被恶意用来作弊、传播错误信息或实施犯罪。
3月,几张由AI合成的特朗普遭围捕图片在美国社交网络疯传,骗到不少美国网民。
由AI合成的音频也以假乱真。据福克斯新闻网报道,近日美国亚利桑那州一位母亲就接到一个电话,电话中骗子用AI合成她女儿的声音,称她遭遇车祸。直到警方找到她的女儿,这位母亲才意识到电话中的声音是合成的。
全球人权网络WITNESS执行董事山姆·古格里认为,AI工具的易用性和可及性、大幅改进的逼真度以及大量生产的能力,正在引发这场“超现实主义的造假浪潮”。古格里补充称,AI公司之间的商业“军备竞赛”不仅使AI工具飞速发展,也导致不少安全隐患。
AI研究人员亨利·阿杰德认为,创造AI技术的公司应该承担责任,给“坏人制造阻碍”。比如要求提供银行信息或通过其他核实身份的步骤,让一些人难以滥用AI工具。
目前,OpenAI旗下的图像生成工具DALLE已经不允许用户创造公众人物图像。该公司还规定,未经本人同意,不得上传人物照片。
还有分析认为,当务之急是加快AI领域的立法,填补监管空白。
今年3月31日,意大利数据保护局Garante已暂时禁用AI聊天机器人ChatGPT,并对其涉嫌违反隐私规定展开调查。这让意大利成为首个对ChatGPT采取行动的西方国家。
英国政府3月29日也发布建立AI监管框架的提案,希望在不损害安全或隐私的情况下促进创新。美国商务部下属机构国家电信和信息局4月11日也宣布设置为期两个月的公开咨询期,就制定AI监管新规征询公众建议。(据《解放日报》)