因使用生成式 AI 製作惡意軟件，日本一 25 歲男子首次被判有罪

IT之家 10 月 28 日消息，據《讀賣新聞》25 日報道，日本一名 25 歲林（Hayashi）姓男子因濫用生成式 AI 製造電腦病毒，被東京地方法院判處有期徒刑三年，緩期執行四年，標誌着日本首次有因濫用生成式 AI 作出刑事定罪的案例。

據判決書等資料顯示，去年 3 月 31 日，該男子左右在川崎市的住所中利用電腦和智能手機，通過生成式 AI 獲取的惡意程序設計圖（源代碼）製作了類似勒索軟件的電腦病毒。此外，他還冒充他人騙取了手機通信卡等物品。

判決稱：“被告爲了獲取金錢而製作病毒，其行爲自私且刑事責任重大。”同時，考慮到該男子已承認起訴事實並表示反省，法院決定給予緩刑。

圖源 Pexels

在法庭上揭露了另一個現實 —— 哪怕沒有 IT 專業知識，也可以利用生成式 AI 製作病毒。根據檢方的開場陳述，被告林某使用“非官方版的 ChatGPT”，創建了對特定文件進行加密並使其無法使用，以及要求支付加密貨幣“比特幣”的程序源代碼。據稱，他通過修改併合並上述代碼來完成病毒的製作。

被告在本月 1 日的質詢中表示，完成病毒大約花費了一個月時間。他承認自己沒有 IT 知識，“如果沒有生成式 AI 的話，我想自己無法制作出來。”當辯護人問他“是否很簡單”時，他回答說“是”。檢方在陳述中指出，如果被告沒有因通信卡詐騙案被捕，他的病毒可能會被用於犯罪。

IT之家從報道中獲悉，安全公司“三井物產 Secure Directions”高級惡意軟件分析技術員吉川孝志稱，生成式 AI 設置了不提供非法信息的限制，但網上也存在規避限制的方法。被告在質詢中也表示“查找了解除限制的方法，並使用之”。

吉川孝志稱：“生成式 AI 被惡意利用時，即便沒有知識的人也可能獲取可用於犯罪的信息”，並指出“在不影響正當使用的前提下，必須加緊採取防止濫用的對策”。