この案件でAIに何を渡してよいか。着手前に決める線引き

この開発案件で、AIにどこまで使わせてよいか。着手前に決めておかないと、生成コードの権利、機密の扱い、責任の所在が決まらないまま実装が進み、本番リリースの判断が止まります。決めることは三つです。何を入力してよいか、生成物の権利をどう扱うか、問題が起きたときの責任をどこに置くかです。誰が引き受けるのかで挙げた三つの決めごとの、二つ目です。

社内の生成AI利用ガイドラインとは別物

「AI利用ポリシー」と聞くと、従業員がChatGPTに何を入力してよいかという社内規程を思い浮かべることが多いです。ここで言う線引きは違います。従業員向けの規程は、日々の業務でAIを使う人に向けたものです。開発案件のAI利用方針は、特定の1案件でAIに何を渡し、生成物を誰が引き受けるかを決めるものです。

この二つを同じものとして扱うと、開発案件の承認が社内規程の会議に紛れ込み、決まらないまま進みます。社内規程を管理する部門と、開発案件を承認する部門が別であることも多く、どちらの会議で決めるかが曖昧なままだと、両方の会議で「まだ決まっていない」という状態が続きます。

対象が違う

社内規程は全従業員の日常的な利用を対象にします。開発案件のAI利用方針は、その1案件だけを対象にします。同じ会社の中でも、案件によって扱う情報の性質が違うため、案件ごとに決める必要があります。

着手前に決める三つ

入力してよい情報

顧客情報、未公開の事業計画、認証情報などを、AIに渡してよい範囲を先に区切ります。この範囲は、案件の性質によって大きく変わります。当社が手掛けた生成AIを組み込んだ開発では、問い合わせメールの内容を判定して返信テンプレートを提案する仕組みや、アプリストアのレビューを分析して返信を支援する仕組み、SNS上の誹謗中傷を検知して記録・対処する仕組みなど、扱う情報の性質が案件ごとに異なる実績があります。個人情報を含む問い合わせメールを扱う案件と、社内の規約・マニュアルだけを検索対象にする案件とでは、AIに渡してよい情報の範囲がまったく違います。

生成物の権利

AIが生成したコードの著作権・利用条件を、契約書に明記します。納品後に権利の帰属で揉めることを避けるため、契約時点で扱いを決めておきます。

責任の所在

AIが誤った生成物を出したときに、誰がどこまで責任を持つかを決めます。本番で問題が起きたとき、発注側と実装側のどちらの責任か切り分けられる状態にしておく必要があります。

この三つが文書になっていないと、情報システム部門は承認できません。動くものはあっても、出してよいと言い切れず、リリースの判断が止まります。

承認が止まる、よくある場面

内製に着手したあと、この三つが決まっていないまま実装が進み、リリース直前で情報システム部門から止められることがあります。実装が終わってから権利や機密の扱いを決めようとすると、すでに動いているコードに条件を後から当てはめる作業になり、手戻りが大きくなります。

複数の外部ベンダーが関わる案件では、どのベンダーがどこまでAIを使ってよいかも、着手前に揃えておく必要があります。ベンダーごとに基準が違うと、納品物の扱いが不揃いになります。あるベンダーは機密情報を含む入力を許可し、別のベンダーは許可していない、という状態になると、納品物全体の扱いを一つの基準で説明できなくなります。

案件の性質によって、線引きの厳しさが変わる

すべての案件に同じ厳しさの線引きを当てはめる必要はありません。当社の実績では、補助金申請に必要な事業計画の作成を支援する案件と、医療領域の大手企業向けに規約・マニュアルを検索する社内文書検索システムの案件があります。前者は事業計画という会社の意思決定に関わる情報を扱い、後者は社内文書という比較的公開性の高い情報を扱います。扱う情報の性質が違えば、AIに渡してよい範囲の決め方も違ってきます。着手前に、この案件がどちらに近いかを見立てることが、線引きの最初の一歩です。

開発を頼まなくても、ここだけ相談できる

入力してよい情報の線引き、生成物の権利の書き方、責任の所在の決め方だけでも相談できます。実装を当社が担当しない案件でも同じです。複数のベンダーが関わる案件で、基準をひとつに揃える役割だけをお受けすることもできます。考え方はAboutに、相談はお問い合わせに相談の窓口を置いています。

よくある質問

開発案件のAI利用方針は、社内の生成AI利用ガイドラインと同じですか

違います。社内規程は従業員がどのツールに何を入力してよいかを決めるものです。開発案件のAI利用方針は、その案件でAIに何を渡し、生成物を誰が引き受けるかを決めるものです。

着手前に決めることは、具体的に何ですか

AIに入力してよい情報の範囲、生成物の権利の扱い、問題が起きたときの責任の所在の三つです。

なぜ実装が始まってからではなく、着手前に決めるのですか

実装が始まってから決めると、すでに動いているコードに条件を後から当てはめることになり、手戻りが大きくなります。

情報システム部門が承認できない、とはどういう状態ですか

権利、機密、責任の所在が文書になっていない状態です。動くものはあっても、出してよいと言い切れず、リリースの判断が止まります。

複数の外部ベンダーが関わる場合はどうしますか

ベンダーごとに基準が違うと、納品物の扱いが不揃いになります。どのベンダーがどこまでAIを使ってよいかを、着手前に揃えます。

生成物の権利は、どこに書いておくのですか

契約書に明記します。AIが生成したコードの著作権・利用条件を、納品後ではなく契約時に決めます。

開発を頼まなくても相談できますか

できます。入力してよい情報の線引き、生成物の権利の書き方、責任の所在の決め方だけをお受けしています。

内製に着手したあと、進まなくなった場合も対象ですか

対象です。止まっている場所が、入力情報・権利・責任のどれに当たるかを先に見ます。当たるなら、そこを固めます。

案件によって、線引きの厳しさを変えてよいのですか

よいと考えています。事業計画のような意思決定に関わる情報を扱う案件と、社内文書のような公開性の高い情報を扱う案件では、同じ厳しさを当てはめる必要はありません。

AI利用の方針は、実装が始まったあとに見直せますか

見直せますが、見直しの都度、動いているコードへの影響を確認する作業が発生します。着手前に決める範囲を広めに取っておくと、見直しの頻度を減らせます。