ChatGPTがウイルス作成 開発者装うと悪用可能に
1: 稼げる名無しさん 2023/04/20(木) 22:01:24.67 ID:gUcFWSYB<.net
チャットＧＰＴがウイルス作成 開発者装うと悪用可能に
対話型人工知能（ＡＩ）「チャットＧＰＴ」に開発者を装う命令を入力すると、サイバー犯罪に悪用できるコンピューターウイルスを作成することが２０日、専門家の調査で分かった。通常はウイルス作成を拒否するが、特殊な命令文によって作成を受け入れた。ＡＩ開発企業は犯罪や差別に関わる質問や命令を認識し、助長しない対策を講じているとされるが、簡単にかいくぐれることが判明した。（以下略、続きはソースでご確認ください）日本海新聞 2023年4月20日 21:00
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku
管理人が以前「誰にでも武器が製造できる」と言っていたのが現実に！
関連記事：【脅威】「私はロボットではありません」をAIが突破 しかも「人間に依頼して解かせる」という方法で
関連記事：【脅威】「私はロボットではありません」をAIが突破 しかも「人間に依頼して解かせる」という方法で
まあエンジニアの人なら皆想定していたであろう問題かなと。
時々記事で書いている懸念点も現実になる可能性は十分ある。
関連記事：チャットＧＰＴを全庁で試験導入 横須賀市、全国自治体で初 安全性懸念も「管理徹底」
関連記事：「チャットGPT規制考えず」 松野官房長官、衆院内閣委
政府や企業の秘匿している情報が洩れる可能性は少なからずあるし、入力データから色々と学習されたり、覚えさせた情報が消せなくなったりするかもしれない。
もしくはわざと失敗させるように仕向けたり不正確な情報を与えてきたりもあるかと。
横須賀市のように政策立案なんかに利用していると思わぬ落とし穴を踏む可能性もある。
判断をAIに任せていくのは個人的には非常に怖い。
