警方指控派克斯维尔高中（Pikesville High School）一名心怀不满的职员利用AI技术伪造一段录音，内容是校长艾斯华特（Eric Eiswert）怒骂犹太人和「忘恩负义的黑人小孩」。

今年1月音档外流后，派克斯维尔高中行政人员接到大量愤怒电话和威胁。此事凸显随处可得的AI和编辑工具很容易被滥用来假冒名人和一般民众。

全球多国将于今年举办重要选举，美国也将于11月举行总统大选。在修法填补漏洞之际，派克斯维尔高中的案例说明了逼真的深伪（deepfake）技术造成的危害。

加州大学柏克莱分校（University of California, Berkeley）数位鉴识专家法瑞德（Hany Farid）说：「只需要一个画面就能让某人出现在影片里，只需要30秒的音讯就能复制一个人的声音。」

他说：「除非从不留下任何蛛丝马迹，否则几乎无能为力…攻击对象已从（美国总统）拜登、（流行歌手）泰勒丝（Taylor Swift），扩大到高中校长、15岁青少年、记者、律师、企业老板，甚至是家中长辈。现在每个人都可能受害。」

经过校方调查后，派克斯维尔高中的31岁体育主任达林（Dazhon Darien）上月底被逮捕。检方正准备以4项罪名起诉他，包括扰乱学校活动。

起诉文件提到，该校教职员在音档流出后感觉很不安全，教师们担心校园内装有录音器材。许多网友也在艾斯华特的社群媒体帐号留下大量辱骂讯息，一名社群平台X用户对艾斯华特说：「如果你死了，世界会变得更加美好。」

目前校方暂时让艾斯华特休假，他的住宅也需要加强保全。 当这段捏造音档在社群媒体上传开时，拥有近百万粉丝的倡议人士麦克森（DeRay McKesson）在X平台上公开要求校方开除艾斯华特。等到警方提出指控，他才坦言自己被骗了。

美国多所学校也正致力打击AI制造的深伪色情片，这些影片导致学生受到骚扰，而目前并无联邦法律可管。

派克斯维尔高中的高尔夫球教练布瑞顿（Parker Bratton）说，艾斯华特的例子在当地敲响警钟，揭示假资讯如何把一个「非常紧密的社区」闹得鸡犬不宁。

布瑞顿说，美国只有一位总统，却有不计其数的校长，「大家会想：对我来说这意味什么？万一有人想毁掉我的职业生涯，我会面临哪些后果？我们永远摆脱不了这种风险」。