因使用生成式 AI 制作恶意软件，日本一 25 岁男子首次被判有罪

GoodNav 10 月 28 日报道，据《读卖新闻》25 日的消息，一名25岁男子林（Hayashi）因利用生成式 AI 制作电脑病毒，被东京地方法院判处三年有期徒刑，缓期执行四年，这成为日本首例因滥用生成式 AI 导致的刑事定罪案例。

根据判决书等文件显示，去年 3 月 31 日，这名男子在川崎市的住所里，利用电脑和智能手机，通过生成式 AI 获取的恶意软件设计图（源代码）开发了类似勒索软件的电脑病毒。同时，他还伪装成他人，骗取手机SIM卡等物品。

判决指出：“被告为了谋取利益而制作病毒，其行为极其自私且责任重大。”不过，考虑到该男子已认罪并表示悔恨，法院决定给予缓刑处理。

法庭上揭示出一个事实 —— 即便没有 IT 专业知识，也能利用生成式 AI 制作病毒。根据检方的开场陈述，被告林某使用了“非官方版的 ChatGPT”，编写了对特定文件进行加密并要求支付比特币的程序源代码。他通过对代码进行修改和合并，完成了病毒的制造。

在本月 1 日的证言中，被告表示，完成病毒大约花费了一个月。他承认自己没有 IT 知识，称“若无生成式 AI，我觉得自己无法做到。”当辩护律师问他“是否很简单”时，他回答“是”。检方在陈述中提到，如果被告没有因通信卡诈骗被捕，他的病毒可能会被用于犯罪活动。

报道中提到，安全公司“三井物产 Secure Directions”的高级恶意软件分析技术员吉川孝志表示，生成式 AI 设置了不提供非法信息的限制，但在网络上也存在规避这些限制的方法。被告在质询中确认自己“查找了解除限制的方法，并进行使用”。

吉川孝志指出：“一旦生成式 AI 被恶意利用，即使没有知识的人也能获取用于犯罪的信息”，他还强调“在不影响合法使用的前提下，必须加强防止滥用的对策”。