プロダクト開発・ITセキュリティ・AI

生成AI

生成AIは、学習したデータをもとに、文章、画像、音声、プログラムのコードなどの新しいコンテンツを、利用者の指示に応じて作り出すAIのことです。

総務省のウェブサイトで公表されている「AI事業者ガイドライン」(2026年9月時点の最新は2026年3月31日公表の第1.2版)の別添では、問い合わせ対応や資料作成での活用、プログラムコード生成への活用が広がっていることや、事実と異なる内容をもっともらしく出力する「ハルシネーション」などのリスクが紹介されています。同ガイドラインは、対象とする主体を「AI開発者」「AI提供者」「AI利用者」に分けて、取り組むべき事項を示しています。

新規事業で生成AIを使ったサービスを作る場合、自社がどの主体にあたるかを整理し、入力データの扱い、出力の誤り、権利侵害への対応を設計に織り込むことが大切です。確認事項は生成AIを使ったサービス開発で確認することで解説しています。

参考資料

「生成AI」が出てくる記事

「セキュリティ・AI」の他の用語