城内実
内閣府特命担当大臣（経済財政政策・規制改革） · 自由民主党・無所属の会 · Japan
“高木委員と私も同じで、官僚的な前例踏襲主義というのはこれはもうしっかり捨てていかなきゃいけないというふうに思っておりますし、また、規制・制度改革によりまして、民間投資、技術革新をしっかり促進し、企業が将来にわたって挑戦できる環境を整備すること、規制が障害となってはならないというふうに私も考えております。これがまさに、環境整備が政府の重要な役割であります。 御指摘のフィジカルＡＩの社会実装につきましては、前回二月二十六日の規制改革推進会議におきまして、高市総理から、成長戦略の各戦略分野の投資促進につながる規制改革項目として積極的に取り上げ、検討を深めるよう指示を受けたところであります。 規制改革推進会議では、四月三十日のデジタル・ＡＩワーキング・グループにおきまして、このフ…”
“高木かおり委員にお答えいたします。 高市総理から、かねてから十七の戦略分野における検討に当たっては、しっかり規制改革、これも取り入れるよう具体的なそういった御指示をいただいているところでありまして、こうした観点から、日本成長戦略担当大臣である私が規制改革担当大臣兼ねて拝命することになったというふうに認識しております。 この高市内閣の成長戦略では、まず、供給力強化を目的に、先端技術の社会実装の実現、これを重視しながら事業者の予見可能性を高める大胆な措置を講じていくこととしておりまして、十七の戦略分野につきましては、供給、そしてもう一方は需要の両面にアプローチする総合支援策を講じる中で、規制・制度改革も積極的に取り入れていくこととしております。 このため、日本成長戦略会議にお…”
“お答えします。 先ほどの中室委員のそういった御指摘について私も承知しておりますが、まず、日本成長戦略における十七の戦略分野の一つであるＡＩ・半導体分野におきまして、画像、音声、動画等の各種センサーを統合し、現実世界を理解して行動を生成することで物理的タスクを遂行するＡＩであるフィジカルＡＩを、主要な製品、技術等に勝ち筋として選定しております。 その上で、フィジカルＡＩは、ＡＩの実装により周囲の環境や状況を自律的に認識、判断し、行動するＡＩロボットを中心に、二〇四〇年には約六十兆円規模へと成長することが見込まれる市場や、人手不足の解消、生産性向上による産業競争力の強化といった観点から、極めて大きな意義を有するものというふうに認識しております。”
“山本委員にお答えします。 社会保障国民会議の実務者会議におきましては、これまでの議論を踏まえて示されました「中間とりまとめに向けた議論の整理」がございます。 この議論の整理におきましては、今後実施する給付つき税額控除と既存の社会保障制度の双方から取り残される者が生じないよう、障害等の事情により就労に制約のある方やあるいは低所得者の方に全体として必要な支援が適切に行き届くようにしていくことが重要、そして、給付つき税額控除が、社会保障制度を取り巻く全ての政策課題を解決するものではないことを認識した上で、政策目的に照らして適切に役割分担することを基本としつつ、制度間の適切な連携を図り、議論を進めていくとされているというふうに承知しております。 いずれにしましても、現時点で、給付…”
“具体的には、ブランシャール氏は、高市総理がお考えのことは極めて実行可能であるとか、あるいは、ロゴフ教授は、非常によいアイデアが示されていると、戦略投資拡大も積極財政も賛同の意を示されたわけでございます。確かに、お配りされました記事の中身を私も承知していますが、そういう状況でございます。 高市内閣では、いずれにしましても、市場動向や経済指標を常に十分注視しながら、責任ある積極財政の考え方に基づく経済財政運営を行い、成長率の範囲内に債務残高の伸び率を抑えることとし、また、政府債務残高のＧＤＰ比を安定的に引き下げていくことで、財政の持続可能性を実現し、マーケットからの信認を確保してまいります。 引き続き、責任ある積極財政の考え方の下、投資すべき分野へのやはり大胆な投資を行いつつ…”
“お答えします。 繰り返しになりますけれども、先ほど申しましたように、過去に補正予算に計上された各経費は、その時々の経済、物価動向を踏まえ、緊要性が認められたものについて、事業の必要性を精査した上で予算措置をされ、補正予算で手当てがされているということであります。そういうことで、補正予算に入ったということは、やはり緊要性があるからということで御理解をいただきたいと思います。 他方で、先ほど申しましたように、高市総理も御発言されたように、補正予算は緊要性の高いものに、緊要性が高いから新たに入れたものでございますので、新たに発生したものは、例えば災害とかそういうものはやはり補正予算ですけれども、緊要性のより高いものにしっかり限定をして、恒常的な、例えば一回補正予算にしたものにつ…”
The complete record
Every one of 774 lines we hold for 城内実, in date order, each linked to its source. Free to read, in full, without an account. Page 11 of 16.
“梅谷委員の御理解のとおりでありまして、基本計画はまさに政府が推進すべき事項を定めるものでありまして、これが十八条。そしてまた、本案第十三条に基づく指針、これは、事業者を始めとする全てのＡＩ関係者が遵守すべき事項を定めるものであります。”
“今後策定するＡＩ基本計画におきましても、こうした考え方をしっかりと、そしてまた、国際的な規範には、やはり人間中心の考え方も示されておりますので、しっかりとこうした考え方を踏まえて、いずれにしても、人間にしかできないこと、人間がすべきことを十分に考えた上で、今後ともＡＩ政策をしっかりと進めてまいる考えであります。”
“お答えします。 平井委員におかれましては、これまで、科学技術政策担当大臣、また初代デジタル大臣としてＡＩ関連の施策を数多くリードしてくださいましたし、また、自民党デジタル社会推進本部長としても本法案の礎となるような考え方をまとめてくださったことに、改めて感謝を申し上げたいと思います。 委員御指摘のとおり、ＡＩの技術がどれだけ発展しようとも、人間の社会がＡＩに支配されるようなことがあってはならない、これは私もこれまでの答弁でも申し上げたとおりでございますが、やはり、人間が自ら判断し、意思決定、コミュニケーションを行うことは極めて重要であるとともに、ＡＩの研究開発及び利活用の大前提である、これはもう紛れもない事実だと思います。 平井委員が科学技術政策担当大臣でおられたときに取りまとめていただきました人間中心のＡＩ社会原則におきましても、目指すべきはＡＩレディーな社会、これは人間中心であることを強く掲げられました。人間の尊厳が尊重される社会とする必要があることが、しっかりと示されているわけでございます。”
“お答えします。 知的財産としての適切な保護や対価還元の要否を権利者において確認するために、学習いたしましたデータセットにどのような情報を用いているかについて、ＡＩ事業者からの開示が必要となる場合があることは認識しているものであります。 データセットを含めたＡＩの透明性確保の在り方は非常に重要な観点であると考えておりますので、本法案第十三条に基づきましてＡＩの適正な研究開発及び活用のために新たに策定する指針におきまして、データセットに係る情報提供などＡＩに関する透明性を確保するための内容を、ここにしっかりと盛り込んでまいる考えであります。 いずれにしましても、しっかりと対応してまいります。”
“塩川委員御指摘のとおり、ＡＩの研究開発や活用の推進を図っていく中にあっても、やはり知的財産が適切に保護されることで新たなコンテンツが継続的に創作される環境を実現することが、知る権利あるいは文化の発展を守っていく上で極めて重要であります。 その上で、例えば、信頼できるＡＩ開発者の下に良質なデータが集められ、それを用いてより高度なＡＩが開発、提供されることで、新たなコンテンツ創作活動につながる好循環を実現することが理想だと考えております。 このため、令和六年五月に公表いたしましたＡＩ時代の知的財産権検討会の中間取りまとめでは、そのような好循環を生み出すための方策として、法、技術、契約、この三つの手段の適切な組合せにより、ＡＩに関する懸念や知的財産権の侵害リスクに対応していくことが必要である旨が示されているところであります。 政府としても、新たなコンテンツの創作活動につながる、今申し上げました好循環が生み出せるよう、各主体が適切に対応していくことを求めてまいります。”
“ここがちょっと重要だと思うんですが、国によってやはりその歴史や文化、そういった社会的背景などが異なるため、その結果、各国の制度体系というのは全部一緒ではなくて異なっているということでありますので、繰り返しになりますけれども、我が国としては、既存法、そしてソフトローを適切に組み合わせてリスクに対応することを基本としながら、本法案の第十六条にございます情報収集や調査、指導、助言、情報提供等を通じて必要な対応を図っていくということを考えております。”
“お答えします。 私も、塩川委員御指摘のとおり、こういったＡＩが巨大企業の経営者の安直なリストラツールになるようなことがあってはならないというふうに思います。 それを踏まえてお答えしますが、ＥＵのＡＩ法では、確かに、御指摘のとおり、ＡＩをリスクに基づき四つのランクに分けまして、最上位から二段階目にハイリスクなＡＩシステムを設定いたしまして、この段階のＡＩシステムを扱う事業者には基準遵守義務が課されている状況というふうに伺っております。 先ほどの今井委員からの御指摘も踏まえて御答弁したことと重なりますけれども、雇用や人事、採用選考の在り方につきましては、我が国においては、ＡＩに特化したものではないものの、厚生労働省のガイドライン等において一定の考え方が示されております。その上で、例えば男女雇用機会均等法では、雇用管理の各ステージにおきまして性別を理由とする差別が禁止されているなど、既存法による一定の取組もございます。”
“今、上村委員から、マイナンバーの制度を引用されまして、ＡＩを使って、何かいわゆる情報がどこかに集中して、それが権力の意のままのように使われるんじゃないかというような御懸念の御指摘がありましたけれども、私は、決してそういうことじゃないと思います。 日本は民主主義国家でありますし、また、たてつけといたしましては、総理の強力なリーダーシップの下で、総理を本部長としてＡＩ戦略本部をつくって、そしてまた、新たな有識者の会議体ができて、いろいろな意味で意見もいただきながら、関係省庁との連携を通じて、ちゃんと、いろいろなステークホルダーがおりますので、チェック・アンド・バランスでは問題ないと私は思います。 また、この問題についてそういった御懸念があることも今お聞かせいただきましたので、そういった懸念があるということ自体がこの内閣委員会で取り上げられましたので、そういうことのないようにしっかりと取り組んでまいる考えであります。”
“いずれにしても、それぞれの各国によって法体系とか法制度が違いますし、その歴史、商習慣、文化等の違いに起因しておりまして、国によって様々な体制が構築されております。 我が国としては、ハードローかソフトローかという二分論ではなくて、それぞれのメリット、デメリットを考慮して、組み合わせながら適切な対応を講じることが重要であり、我が国にとって今般のＡＩ法案は最適な内容であるというふうに思っておりますし、実際、当然、有識者の会議の中でも、ＥＵのいろいろな規制もしっかり検討した上で、我が国としては現時点でこういう法案の内容が最適であるということで、今御審議いただいているところでございます。”
“お答えします。 ＥＵについては、御指摘のとおり、ＡＩのリスクに基づきまして四つのランクに分けまして、最上位の容認できないリスクを持つＡＩシステムは禁止されておりますし、二段階目のハイリスクなＡＩシステムを扱う事業者には基準遵守義務が課されているということになっております。 ただ、この点、我が国におきましても、例えば個人情報を無断で収集、利用するようなＡＩの提供は違法でありますし、また、ＡＩ利用の有無にかかわらず、基準を遵守していないＡＩを使った自動運転の自動車とか、あるいはＡＩを使った医療機器の販売、これらは、いわゆる業法である自動車の運送に関連する法律とか薬機法とか、こういったもので規制されているところであります。 また、ＥＵのＡＩ法の次のパートでは、汎用ＡＩに関する規制として、透明性要件の遵守や技術文書の作成などを義務づけ、違反した場合の罰則を設けているということになっております。 この点に関しては、日本のＡＩ法案では、汎用ＡＩに該当するようなものに対しては、国際的な規範に即した指針の整備を通じて、事業者による適正性確保のためのリスク評価等の自主的な取組を促すこととしております。”
“お答えします。 御指摘のとおり、投資を呼び込むそのインセンティブというのは非常に重要でありまして、我が国のＡＩ分野におきます国際競争力の確保、そのためには、当然、民間投資の充実を図っていくということは大事で、御指摘のとおりだと思います。 そのためにも、具体的に、内閣府においても研究開発プログラムを進めておりまして、これはＡＩに特化したものではないんですけれども、ＳＩＰ、いわゆる戦略的イノベーション創造プログラムがございまして、ここで、民間企業の積極的な投資を呼び込みつつ、府省連携で基礎研究から社会実装まで見据えた一気通貫の研究開発を推進しております。もう一つ、研究開発とソサエティー五・〇との橋渡しプログラム、ＢＲＩＤＧＥというのもございまして、今後の官民研究開発投資の拡大が見込まれる領域については、研究開発成果の社会実装を加速する取組を推進してきているところであります。 いずれにしましても、内閣府だけでもこうした取組もありますので、また省庁も含めて、ＡＩ分野における更なる民間投資の呼び込みが実現できるよう、関係省庁と連携して、しっかり取り組んでまいる考えであります。”
“委員御指摘の本法案に基づく調査研究につきましては、ＡＩ戦略本部の事務局を担います内閣府が関係省庁と連携して行うことを想定しています。調査研究を行うに当たりましては、先ほど申し上げました有識者会議、その中には、繰り返しになりますけれども、様々な分野の専門家も入っておりますので、その方々の専門的な知見に基づく協力をお願いし、意見を聞く体制を構築いたします。 また、得られた調査結果につきましては、ＡＩ戦略本部、有識者会議、そして三つ目は、今言った局長級の関係省庁会議等の会議体で報告し、政府全体で問題意識を共有することが重要だと考えております。 いずれにしましても、委員の御指摘も踏まえて、しっかりと適切に対応していく考えであります。”
“菊池委員の御指摘、これは大変重要な御指摘だというふうに認識しております。 本法案では、ＡＩ政策の司令塔として、内閣に、総理大臣を本部長として全閣僚から構成されるＡＩ戦略本部を設置する、これはこれまでも何度も繰り返し述べておるところですが、同時に、有識者会議についてもＡＩ戦略本部の下に設置することを検討しておりまして、その中で、ＡＩ技術、法制度、それ以外にも倫理とか、様々な分野の専門家の意見をしっかり聞くことができる体制を新たに構築したいというふうに思っております。今まではＡＩ戦略会議、ＡＩ制度研究会がありますが、新しい、よりパワーアップした有識者会議体をつくる考えであります。 そしてまた、本法案の提出に先駆けまして、昨年十二月には、関係省庁の局長級から構成されます、これも先ほど答弁で申し上げたと思いますが、ＡＩ戦略推進関係省庁会議を十二月に立ち上げまして、今後は、このＡＩ戦略本部の下にしっかり位置づけて、省庁の垣根を越えて迅速に情報共有をしながら対策を練っていくというようなことを考えております。”
“そうした中、関係府省庁が適切に役割分担をしながら、ディープフェイクポルノを始め、ＡＩに起因する様々な課題について迅速かつ適切に対処をすることになりますが、いずれにしましても、御指摘のありました検知する方法とか、削除をするとか、救済措置をどうするか、こういったことは、省庁の垣根を越えて、しっかりと省庁で連携して情報収集をしながら、表現の自由とかいろいろな問題もありますので、そういった中でどういう対応ができるかということを迅速かつ適切に取り組んでいく考えであります。”
“お答えします。 ディープフェイクポルノの問題については、これまで各委員からも累次にわたり御質問、御指摘がございまして、これは、本当に御指摘のとおり、大きな社会問題になっているというふうに思っております。 いずれにしましても、ＡＩを悪用した事案に対しては、各種制度等を所管いたします関係府省と連携してしっかり取り組むことが重要だというふうに認識しております。 本法案が成立した暁には、従来になかった強力な体制として、これまでも何度も述べておりますけれども、総理大臣をトップ、本部長として全ての閣僚によって構成されるＡＩ戦略本部を内閣に設置することによって、ＡＩ政策の司令塔機能を強化することが可能となります。これにより、総理の強いリーダーシップの下で、全ての関係府省がこれまで以上に密接に連携することが可能となります。”
“今、石井委員から、お地元の混雑検知の実証実験ですか、大変興味深く聞かせていただきました。万博もそうですが、万博のような大規模イベントにおいてＡＩが活用され、ＡＩに係る具体的な活用事例が将来のためにしっかり蓄積されるとともに、そのような機会を通じて広く国民の皆様にＡＩの有用性、ＡＩの利便性、これが知られていくことは、今後のＡＩの利活用を推進する上で大変重要だと思いますので、繰り返しになりますけれども、大変関心を持って聞かせていただきました。 ＡＩ法案においても、国は広報活動の充実等に取り組むこととしておりまして、政府としては、今後、大規模イベント等におけるＡＩの利活用が、御指摘も踏まえまして、しっかり進むよう、積極的に働きかけてまいりたいと思います。 そしてまた、例えば、ＡＩの活用事例をイベント等を通じて、イベントにもＡＩを活用すると同時に、イベントにおいてもＡＩのいろいろな活用事例を広報することで、有用性、利便性をしっかり国民の皆様に実感してもらうことが必要でありまして、こういったことについても、関係省庁とも緊密に連携をしながら実施してまいる考えであります。”
“やはり、日本人は日本の、日本語、文化、情緒、こういうものを大事にしながら、それぞれの、共通言語ももちろん英語なんでしょうけれども、日本語でしっかり入力して、日本の伝統文化、情緒、感性なんかも、ＡＩが、例えば外国人に、わび寂と言ったら、英語で説明するだけじゃなくて、何かお茶とか風景とか画像で、これだって。今、それが非常に広まっているので、外国人もだんだん日本の情緒が分かるようになってきているので、逆に言うと、そういうＡＩも活用しながら、日本の伝統文化も理解していただくようなことも十分できるんじゃないかなと思いますので。 いずれにしても、人間中心のＡＩで頑張ってまいりますので、よろしくお願いします。”
“ありがとうございました。 今日の冒頭から、先生方の様々な貴重な御意見、そして、午前中には政府参考人による質疑もございまして、私も、全部ではありませんけれども、八〇％ぐらい拝見させていただきまして、非常に勉強になりました。 あくまでも内閣委員会は国会の場ですから、今日の市村委員、そしてほかの委員の、これまでの、そしてこれからのいろいろな答弁ややり取りを通じて、しっかりこういったことが生かせるようにしたいと思いますし。 やはり、基本は、私自身も市村委員と、前回もそうですけれども、全く考え方を同じにするのは、恐ろしい未来が展開されないように、要するに、ＡＩが人間をコントロールして、何かＡＩがルールを作って、人間はそのＡＩに働かされて、人間がもぬけの殻で、情緒も何もなくなって、ただ動いていくみたいな、そういうことに決してならないように。”
“具体的な例を挙げますと、例えば、地方自治体が業務効率化に向けてＡＩを活用した行政サービスを展開する場合には、当然、従来とは異なった、今まで窓口で人を介してやっていた手続になると考えておりましたけれども、違う形になりますので、住民の皆様に、今後はＡＩを通じて窓口業務のこの部分に関してはやらせてもらいますよという形で、理解と御協力をいただく必要が当然あるわけでありまして、そうした観点から、法案に規定する、こういったことが一つの例だというふうに挙げられます。 ただ、もちろん、この協力に当たっては、繰り返しになりますけれども、各人のそれぞれの立場で、実施できる範囲で、自主的に対応していただくものであり、この法案にある国民の責務とは別に、第四条の国の責務、第五条の地方公共団体の責務、同じ責務でも、国民の責務と、今言った国と地方公共団体の責務とは、これまた違うというふうに理解しております。”
“お答えします。 先ほど今井委員からも御質問がございました、第八条に表題で国民の責務ということが書かれておりますが、ＡＩにつきましては生産性の向上や労働力不足の解消などに大きなメリットを持つことが見込まれる一方で、偽情報、誤情報の拡散や犯罪の巧妙化を目的としたＡＩの悪用も、これも顕在化しております。 やはり、このようなＡＩのメリットやリスクについて、国民の皆様に理解そして関心を深めていただくことが不可欠でありまして、むしろ、逆に全然理解していないと、いろいろなトラブルに巻き込まれたり、あるいは意図せぬ加害者になったりすることもあり得るわけであります。 そしてまた、現在のＡＩは、間違った情報や意図しない情報を出力することもあるため、不適切な方法でＡＩを使うことで被害者になったり、場合によっては今言ったように加害者になってしまうということもあります。 これを防ぐためには、やはり、国民の皆様には、国や地方自治体が実施する施策に可能な範囲で、それぞれの方々が、一律にこうしろではなくて、それぞれの方々のお立場の可能な範囲で御協力をいただきたい、そういう趣旨でございます。”
“私は個人的には市村委員と全く同じ考えでありまして、私が尊敬して今おつき合いさせていただいているお茶の水女子大の名誉教授の藤原正彦先生、小学生に英語教育をやる時間があるんだったら、日本語と日本の歴史、情緒を学ばせるべきだとおっしゃっていますが、私も全くそのとおりだと思っております。 今御指摘のとおり、英語に日本語を教えさせるということは非常に重要でありまして、今一つの試みとして、俳句や和歌を英語で表現しようと。これはなかなか難しいんですが、なかなか日本語のように情緒が一〇〇％伝わらないんですけれども、それぐらい外国の方々が、日本の情緒というのは、特に今、画像やそういったものを通じて非常に関心を持って見ておりますし、今日は日本語を学ぶ外国人の方が異様に増えているということは、やはり、漫画やアニメを通じてそういった日本人の情緒とか感性に触れて、それに触発されて、じゃ、日本語を学ぼう、日本を訪問しようということではないかと思うんですけれども。”
“そうした観点から、研究開発するに当たっては、いわゆる技術に関する知見だけではなくて、生活、文化、さっき大和心というのもありましたけれども、あるいは倫理、感性とか、そういった幅広い広範な分野の知見が求められるというふうに思います。 こうしたことを踏まえまして、本法案第六条においては、研究開発機関は、特定の限られた分野ではなくて、学際的又は総合的な研究開発に努めることとしております。 特に、ＡＩ人材の養成、確保に当たりましては、専門的かつ幅広い知識、これを有する人材を育てて確保していくことが重要であるというふうに考えております。”
“今、市村委員から、日本人の心、大和心を持ったＡＩ、国産ＡＩの開発というような御指摘がありまして、私も大変興味深く聞かせていただきました。 言うまでもなく、ＡＩは国民生活や経済社会に密接に関係しておりますので、やはり外国語ではなくて日本語で、日本の文化や商習慣等を正確に、情緒もできたら入れてほしいんですけれども、回答できるＡＩ、これは重要なものだというふうに私も認識しております。産業競争力や経済安全保障の観点からも同じく、国産ＡＩの開発、これは極めて望ましいと考えております。 残念ながら、海外製の大規模言語モデル、基盤モデルが中心となっている現状でありますが、今後、大規模言語モデルについては、外国企業が先行しているのが現状でありますけれども、実際、国内でも小規模のモデルで極めて高い性能を持ったＡＩを開発する取組も進められておりますので、こういった国産ＡＩの研究開発をしっかり後押ししていく考えであります。 もう一点の、学際的なという言葉についてでございますが、これは第六条第三項に御指摘のとおり入っております。 やはり、ＡＩというのは、特定の分野に限らず、あらゆる分野で活用されます。”
“市村委員と御懸念は本当に共有しております。 御指摘のとおり、誤情報の生成、拡散への懸念に関して、例えば、ＡＩが生成したデータを別のＡＩが学習して、元のＡＩの誤り、偏り、差別的な表現とか、そういうものがどんどん増幅されてしまって、かえってＡＩの精度が低下する、信頼性がなくなる、そういったような研究結果も報告されております。 こうした中、あるデータがＡＩによって生成されたか否かを識別する研究開発も進められております。今後、あるデータがＡＩ生成物なのか否かに加えまして、ＡＩの学習に適した学習データなのか否かを判別できる技術が実用化されることも想定されますので、そういった技術も駆使しながら、そういう偽情報、誤情報が事実のように独り歩きをして拡散されることのないように、しっかり対応してまいりたいと思います。”
“御指摘のとおりでございまして、ＡＩの軍事利用については今申しましたように国際的な議論が別途なされておりますが、当然、人道と安全保障の視点を勘案したバランスの取れた議論を通じまして、最大の目標というか目的であります人間中心のＡＩ、人間中心の原則、これが維持され又は責任ある形での利用が促進されることが重要であることは言うまでもございません。 いずれにしましても、その国際的な議論を踏まえつつ、政府としても適切に対応してまいる考えであります。”
“お答えします。 人を殺害するような軍事利用は含まれるかどうかでありますが、デュアルユース技術でありますＡＩ技術は、経済社会の発展へ寄与するのみならず、我が国の安全保障に寄与することも考えられます。 他方で、御指摘のような、人間を殺害するような軍事利用につきましては、国民生活の向上及び国民経済の健全な発展に寄与することを目的とする、これは第一条にございますけれども、ＡＩ法案の対象とする不正な目的ではないと考えておりまして、これは別途国際的な議論が行われておりまして、そのところで別途適切に対応すべきだと考えておりまして、具体的には、自律型致死兵器システム、リーサル・オートノマス・ウェポン・システム、ＬＡＷＳというんですかね、そういった問題について別途国際的な場でしっかり議論されておりますので、ちょっとそこは切り離して考えるべきじゃないかなというふうに思います。”
“市村委員御指摘の問題は非常に私も重要だと思っておりまして、ＡＩに支配される人間じゃなくて、やはり人間中心でいかなきゃならないと思っております。 これまでの科学技術の発展のプロセスにおきまして、例えば、航空機や自動車における技術革新ではコンピューターによる操縦の補助あるいは自動化など、人間とコンピューターの協調による性能向上等を目指してきた歴史がございます。 ＡＩについても同様であり、人間中心の考え方を軸に置くとともに、人間の英知によって、人間とＡＩの調和に向けて、私は一歩ずつ前進できると考えております。 なお、本法案の第十三条において、国際的な規範の趣旨に即した指針、これを国が整備することが規定されておりますが、ここに言う国際的な規範は、広島ＡＩプロセスの国際指針、あるいは国際行動規範、これを念頭に置いておりまして、これらの国際的規範にはしっかりと人間中心の考え方が示されておりまして、国が整備する新たな指針についても同様の考え方をしっかり踏まえて示す考えであります。”
“今井委員の御指摘、非常に私も重要だなと感じました。 御存じだと思いますが、国際卓越研究大学制度は、文科大臣が世界最高水準の研究大学を認定し、さらに、当該大学の体制強化計画を認可した上で、認可された計画に対する支援を行う制度でございます。 現状、ＡＩ技術に関連した工夫といたしましては、例えば、基本方針において、国際卓越研究大学の体制強化計画の認可基準の一つとして、大学が、ＡＩ技術などの戦略重点分野や新興・融合分野への取組、新たな萌芽的挑戦などの研究上のポテンシャルを向上し続ける方策、これをしっかり示すべきということが具体的に掲げられております。 そうしますと、現在、この基本方針の下で第二期の公募を実施しているところでありますので、各大学において、ＡＩ分野の発展も含めた国際的に卓越した研究成果の創出や成果の活用に向けた構想が検討され、提案されることを大いに期待したいと思います。 大学の認定や計画の認可の意見聴取を求められた際には、基本的にはこれは文科大臣のあれなんですが、ＣＳＴＩの構成員の科学技術政策担当大臣として、私もしっかりとその点を確認していきたいというふうに思っております。”
“お答えします。 ＡＩを利用するしないにかかわらず、雇用の分野における差別、これはあってはならないものというふうに考えております。 例えば、男女雇用機会均等法におきましては、雇用管理の各ステージにおける性別を理由とする差別、これが禁止されております。その上で、生成ＡＩが格差、差別を助長するような出力をしないこと、これももちろんこういった観点から当然重要でありまして、具体的には、学習データから偏見情報を除外すること、あるいは、ＡＩが格差、差別を助長する出力をしないかどうか、市場に出す前及び出した後にも確認し、必要な修正を行うことなどの措置をＡＩ開発者が講じることにつきまして、本法案に基づいて国が整備する指針に盛り込むことを検討しております。 さらに、本法案第十六条に基づきまして、国は、必要に応じて、法律に基づく調査を行い、そのような格差、差別を助長するようなＡＩにつきましては、しっかりと事業者に対する指導、助言、あるいは国民に対する情報提供をしっかりと行ってまいります。”
“御理解されているとおり、本法第十八条、基本計画の条文上にあります基本理念には、本法案第三条四項の内容も含まれます。そしてまた、本法案第三条五項では、ＡＩの研究開発及び活用は国際的協調の下で推進することなどを基本理念として規定しているものであります。 国際規範として、例えば、高度ＡＩシステムを開発する組織向けの広島プロセス国際指針におきましては、ＡＩの開発等について、法の支配、人権、適正手続、多様性、公平性、無差別、民主主義、人間中心主義を尊重すべきである等とされているところです。 したがいまして、本法案第十八条に基づき策定する基本計画は、第三条第四項や同条第五項を含む基本理念等にのっとり策定するものでありまして、イノベーションの促進とリスク対応の両立や、当然、人権、人間中心主義の尊重等についても、今井委員御指摘のとおり、基本計画の中に盛り込む方向で検討しております。”
“済みません、私、先ほどの答弁で、国民の責務、第八条を第三条と申し上げたのですが、第八条の間違いなので、ちょっと訂正させていただきます。 御質問にお答えします。 第三条第四項につきましては、本法案に定める施策や基本計画の土台となる基本理念の一つとして、リスク対応を明確に示す観点から設けたものでございます。 我が国におきましては、従来、ＡＩのリスクについて、刑法等の既存の法令とガイドライン等のソフトロー、これらを適切に組み合わせて対応してまいりました。これに加えまして、本法案では、第三条第四項の基本理念の内容も踏まえまして、国が新たに指針を整備し、情報収集や調査、指導、助言等を行うことを規定しておりまして、今後、今井委員の御指摘もしっかり踏まえまして、顕在化するリスクに対して、既存の法令の活用等による制度的対応も含め、適切かつ迅速に対応していく考えであります。”
“お答えします。 法案第八条ですが、この内容は、国民の皆様が、ＡＩの適正な活用を推進し、便益を享受するには、ＡＩに対する正しい理解と関心を深めていただくことが不可欠という認識の下で想定したものでありますし、八条の表題は国民の責務とありますが、そこの、国と地方公共団体のところは条文の中にも責務と書いてありますけれども、表題にあるのが責務であって、条文の中にはそのような責務という言葉はございません。 なお、本法案では、国や地方公共団体はＡＩの活用を推進する施策を実施することとされておりまして、この施策の実現に当たっては、国民の皆様の御理解、御協力が必要不可欠であるという観点からであります。こうしたことから、果たさなければならない務めを意味する責務という文言を、第三条の条文の中ではなくて見出しに用いたものでございます。 なお、本法案第四条の国の責務から第八条の国民の責務まで、ＡＩ関係者に関する条文の見出しにおいては、これら関係者に求める努力義務の程度はそれぞれ異なるんですが、あえて責務という文言を表題に用いたということであります。”
“私も全くそのとおりだと思いまして、イノベーションの促進、これはゼロサムではなくて、イノベーションを促進して研究開発をしっかりやることによって、これから将来顕在化するようなリスクを未然に防御したりする、あるいは偽情報、誤情報をチェックできるような、既にもう幾つかございますけれども、そういったイノベーション、研究開発を通じて、リスク対応、リスクの可能性を低減させるということができますので、私自身もそのように認識しております。”
“本法案が成立した暁には、ＡＩに関する様々なこうした課題に関して、内閣府が司令塔機能を発揮し、全ての関係省庁との間で緊密な情報共有、調整を行いながら、政府全体として、遅滞なく迅速に、一体感を持ってこうした課題にしっかり対応していく考えであります。”
“橋本委員御指摘のとおり、確かに、海外では、ディープフェイク画像の流通等が規制されている国がございます。他方で、我が国におきましては、生成ＡＩを悪用しましたディープフェイクポルノを含めた新たな課題への対応については、個別の事案ごとに刑法やいわゆる児童ポルノ禁止法等の既存の法令にのっとり適正に対処されていくものとしております。 その上で、ＡＩ法案におきましては、ＡＩ政策の司令塔機能を強化するため、内閣総理大臣を本部長として、全閣僚が構成員となるＡＩ戦略本部を新たに設置することや、戦略本部の事務局である内閣府が、ＡＩに関する情報収集や、権利利益を侵害する事案の分析や調査を実施すること等を規定しているところであります。 こうしたことをしっかり踏まえまして対応していくことになりますが、加えて、ディープフェイクに関しては、法案第十三条でありますが、これに基づき整備する指針、この指針において、ＡＩ開発者が違法なディープフェイクなどの不適切な出力の抑制等の取組に努めることについて盛り込むことも予定しております。”
“いずれにしましても、問題事案が発生した場合の海外事業者への対応につきましては、現時点におきましては、海外に存在する当該事業者の本社に対し、あらゆるチャンネル、手法を用いて連絡を取る、しっかり取るということを想定しております。”
“ＡＩ活用事業者につきましては海外事業者が多いことが事実でありますが、これは当然、国内事業者と同様に、本法案第十三条に規定する国際的な規範に即した指針、これの遵守や、第十六条に規定いたします情報収集、調査などへの協力を求めていくことが想定されております。 法律に事業者の責務が明記されることによって海外事業者に対しても同じように規律を働かせ、一定の実効性を確保することは可能であるというふうに考えております。 なお、このことは、ＡＩ戦略会議・ＡＩ制度研究会の中間取りまとめにおいても明記されております。 そしてまた、加えて、広島ＡＩプロセスフレンズグループを始めとする場や国際的なネットワークを用いた緊密なコミュニケーションを図ることで対応を求めていく。だから、日本だけじゃなくて、こういったフレンズグループに入っている仲間の協力も得ながら、特に具体的な問題があったら、日本だけからではなくて、そういったフレンズグループを通じての対応ということもできるんじゃないかと思います。”
“そういった若い方、特に外部人材、やはり若くてやる気があって能力がある方、そういった方々がしっかりこのＡＩの業務に携われるように、外部人材の登用、そしてまた、各省に若手でＡＩの問題に関心のある職員もおりますので、そういった方々に併任をかけることによって、通常自分の省庁で仕事をしながら、内閣府のこういったＡＩの問題についても、時々集まって、具体的な様々な問題、顕在化した問題などにスタッフとして関わっていくというようなこともしっかりやっていく考えであります。”
“この四月からＡＩ担当統括官というポストをつくりましたし、また、先ほども申しましたように、今後、法案が成立してＡＩ戦略本部ができた暁には、そういった体制面についても検討し、先ほど著作権の問題等もありましたけれども、これから起こり得る様々な、現に起きているもの、これから顕在化する様々な課題について、迅速かつ適切に対応できるように体制づくりを、しっかりつくっていく所存であります。”
“ＡＩ戦略本部、これは本部長が総理大臣で、本部のメンバーは国務大臣でありますが、これまで、ＡＩ戦略会議、これは今日参考人で御出席された松尾先生が座長でありまして、このＡＩ戦略会議がございまして、その下にＡＩ制度研究会というのもございます。 この法案が成立した暁には、この有識者会議を何らかの形でよりパワーアップするというか、構成員のメンバーをどうするかというようなまた問題はありますけれども、しっかりとＡＩの知見のある方を、今日参考人に来られた四人の方のような方を中心に、しっかりとした会議体、有識者会議体をつくって、ＡＩの政策についてしっかりと取り組んでまいる考えであります。”
“お答えします。 これまで政府としましては、官房長官を議長とする統合イノベーション戦略推進会議、これがございまして、その下にＡＩ政策を強化、推進するために設置された有識者会議であるＡＩ戦略会議がございました。ここのＡＩ戦略会議の中で議論を進めてきておりまして、こうした議論を踏まえて、政府のＡＩ政策の司令塔機能を実質的に担ってきたところでございます。また、このＡＩ戦略会議のほかに、各種連絡会議等によって、縦割りを排すべく、関係省庁と省庁の垣根を越えて連携はこれまで図ってまいりました。 他方で、この法案が成立した暁には、先ほど申しましたように、ＡＩ政策の司令塔として、内閣にＡＩ戦略本部を置き、その本部長は総理大臣ということで、官房長官から、より更に強力なリーダーシップの下で、これまで以上に緊密な情報共有、調整を行いながら、ＡＩ政策をしっかり進めていくということになっております。”
“一方で、ＡＩの利活用によりまして、先ほど山崎委員からも御指摘ありましたけれども、著作権など知的財産権に関する具体的な様々な御懸念が指摘されているということは、これは私も十分承知しておりまして、こうした課題にはきちんと対応すべきことが重要だというふうに認識しております。 このため、内閣府におきましては、ＡＩ技術の進歩の促進と知的財産権の適切な保護、この二つの両立に向けまして、ＡＩの開発や利用における知的財産法の適用に関する考え方を整理するなどの取組をこれまで進めてまいりました。 そして、ここから先ですが、本法案が成立した暁には、例えば、ＡＩ戦略本部における基本計画の検討などにおいて、これまでの課題への対応と残された懸念事項を踏まえたものとするとともに、ＡＩ戦略本部における更なる検討や調査研究等の取組により、日本の強みであるアニメや文化を守りつつ、ＡＩによって新たな価値が創造される好循環を形成してまいる考えであります。”
“橋本委員の御質問にお答えしますが、実は、私も十二日の大阪・関西万博の開会式に出席させていただきまして、今、橋本委員が御指摘になりましたＡＩ技術を駆使したｉｍｍａというバーチャルヒューマンの司会がありましたけれども、私は、あれは、後になって、えっ、これＡＩなの、よくできているなと感動したぐらい、こんなことまでできるんだなということを目の当たりにしました。そしてまた、四人組ユニットの、新しい学校のリーダーズのメンバーが書いた文字が、ＡＩがそれを読み取って音楽を作り上げるなど、ＡＩ技術がいろいろと活用されて、演出会場で上手に、本当にＡＩなんだか実際違うのかよく分からない形で、自然な形でああいうパフォーマンスができたということは、私も橋本委員と同じく大変感動し、印象に残っているところでございます。 今、橋本委員御指摘のとおりで、日本の強みであるアニメや文化をしっかり守って、こうしたＡＩなどのデジタル技術を巧みに取り入れて新たな価値を創出していくこと、これは非常に重要だと思っております。”
“全く山崎委員の御指摘はもっともだと思いますし、昨年十二月から、局長級で、やはりこれは縦割りだと駄目なので、ＡＩ戦略推進関係省庁会議、連絡会議みたいなものをつくりまして、やはり一堂に会して問題を共有することが大事だということで立ち上げたところでありますが、そういった関係省庁会議、あるいはまた、当然、法案が成立した暁には、今ある有識者によって構成されるＡＩ戦略会議、ＡＩ制度研究会、これがまた新たな、よりパワーアップした形で、新しい有識者会議ができることになりますので、そういったことも通じて、しっかりと取り組んでまいる決意であります。”
“山崎委員御指摘のとおりでありまして、やはりこれから、まさにしっかりと人材確保をしていかなきゃなりませんし、また、ＡＩの開発は、御案内のとおり、環境開発及びインフラ、さらには基盤モデル、そしてアプリケーションと、三つの分野でやらなきゃいけないということでありますし、特にソフト、アプリケーションの分野ですね、まだまだこれは勝ち筋を狙っていけると思いますし、また、基盤モデルについても、小さい規模ではありますけれども、国産ラージランゲージモデルなども作っていけばというふうに思っております。 いずれにしましても、この法案が成立した暁には、繰り返しになりますけれども、ＡＩ戦略本部長、総理大臣でありますので、強力なリーダーシップの下で、またしっかりと基本計画も策定して、その中で、今後とも、やはり人と予算、これをしっかり確保することも重要でありますので、そうしたことを目指して、結果が出るように取り組んでまいりたいというふうに思っております。”
“もちろん、必要に応じて、著作権に関するものも含めて関係府省で緊密に連携して検討してまいりたいと思いますし、本法案に基づく指針、これは、国際的規範の趣旨に即した指針を整備するということが十三条でうたわれておりますけれども、またさらに、十六条の指導、助言や情報提供などによって、知的財産権の侵害リスクについても必要に応じて更なる検討を加えるなど、臨機応変にかつ着実に取り組んでまいります。”
“山崎委員の御質問にお答えしますが、実は私、ＡＩを担当する科学技術政策担当大臣だけではなくて、クールジャパン戦略、知的財産戦略を担当しておりまして、今、山崎委員の御懸念、問題意識、全く共有しておりまして、現に私、直接間接にクリエーターの方から本当に痛切な、そういった声が届いております。 お答えしますけれども、日本のコンテンツの競争力、これは本当に多くの多様なクリエーターの血のにじむような努力、活躍によって成り立っておりまして、このクリエーターの知的財産権をしっかり適切な形で保護していくことは、これは極めて重要な課題であると認識を本当に共有しております。 これまで、文化庁、さらには内閣府の知的財産戦略推進事務局におきまして、ＡＩの普及に伴う著作権の問題への対応に取り組んでまいりました。本法案が成立した暁には、さらに、これまでの取組に加えて、ＡＩ戦略本部、これはまさに総理大臣が戦略本部長で、司令塔になりますので、その司令塔機能をしっかり発揮して、ＡＩに関する施策を総合的かつ計画的に推進することとしておりまして、その中にもこの問題がしっかり入って取り組まれるというふうに確信しております。”
“お答えします。 やはりＡＩの技術の変化はその予測することが、非常にスピードが速いので、現時点でその全てのリスクを予測することというのは極めて難しいというふうに認識しておりまして、ただ、繰り返しになりますけれども、ＡＩ法が成立した暁には、法に基づく、十六条にもありますが、情報収集や調査などによって様々な分野における実態や課題を個別具体的にしっかりと把握して、必要に応じて関係府省庁の連携の下、しっかり対応していくと、そういうことが想定されております。”
“これによってＡＩに関する様々な課題、これに対して全ての関係府省庁が緊密に情報共有、調整を行いながら、政府全体として総合的かつ計画的に政策の推進を図っていくことが可能になるというふうに考えております。”
“御指摘のとおり、例えば海外ではディープフェイク画像の流通等が規制されている国もございます。例えばＥＵでは、二〇二四年成立したＡＩ法において、ディープフェイク画像であることの開示義務、これが規定されているというふうに承知しております。 こうした海外の状況もしっかりと把握した上で、ＡＩ戦略会議及びＡＩ制度研究会の中間とりまとめにおきましては、ディープフェイクを含めたＡＩがもたらし得るリスクに対するまずは基本的な考え方として、既存の法令が存在する領域においては、まずその枠組みを活用して対応すべきというふうになっております、されております。このため、我が国においては、生成ＡＩを悪用したディープフェイク画像の流通については個別具体的な案件ごとに、刑法あるいはいわゆる児童ポルノ禁止法などの既存の法令にのっとり適正に対処していくべきものというふうに考えております。 その上で、繰り返しになりますけれども、現在国会審議中のＡＩ法案におきましては、これが成立した暁には、内閣総理大臣を本部長として全国務大臣を構成員とするＡＩ戦略本部を設置するなど、ＡＩ政策の司令塔機能を強化することとなっております。”