Banerjee
Laha教授にうかがいます。AIをどのように捉えておられますか？　それは社会に何をもたらすでしょうか？　わかりやすくお話しいただけますか。

Laha
この10年ほど、AIが大いに喧伝されてきました。「喧伝」と言ったのは、ほとんどの人が汎用型知能を持ったマシンのことを思い浮かべるからです。しかし、我々はまだそこには至っていません。現状のシステムは、感情とか愛情、あるいは汎用型知能と聞いて我々が連想するような能力を持ってはいません。ただ、核エネルギーの開発以来、AIが人類にとって最大の進歩のひとつであることは間違いありません。

このテクノロジーにはいくつか特徴があります。例えば、人間の知覚を真似ることができます。顔認識はスマートフォンなどに使われていますし、音声認識も興味深い用途がいろいろあります。ちょっとした文章が書けるマシンも実現しており、人間の手により作成されたのか、機械の手により作成されたのかの判別が難しいこともあります。

 
1960年代には既に、自動的に意思決定できるシステムが登場していました。コンピューターの計算能力が高まった結果、今では画像診断のようなことができる本格的システムが登場しています。しかるべく訓練したマシンにレントゲン写真を読ませると、異常を発見できるのです。こうしたタスクは、医療、教育、産業オートメーションなど、さまざまな分野に応用できます。

 
もうひとつ重要な能力は、画像処理や画像識別、画像中の物体認識です。産業における用途はいろいろあります。特に、製品の出来が良好で規格検査に通るかどうかを判断するのに役立ちます。不良品を早期に発見できれば、対処が容易になります。不良品を工程から取り除くことで、大幅な費用削減が可能です。

 
また、ナビゲーションや予測に関しても進歩が見られます。例えば、インドは10年前と比べても大型暴風雨の被害を受けにくくなりました。これは主に、我々が新しい情報を獲得し、持てる情報をうまく活用できるようになったからです。AIはGPSを通じてナビゲーションの分野を劇的に変革しました。Googleマップを使ったことがある人なら、道順だけでなく到着予定時間もわかるのがどれほど便利か、実感されているはずです。AIのこうした予測能力には実に大きなメリットがあります。

 
社会的に問題なのは、真実ではないニュースが出回ることです。俗にいう「フェイクニュース」です。AIシステムにとっての課題のひとつは、正しいニュースと虚偽のニュースをどうやって見分けるかです。何かダメージが起きる前にフェイクニュースを除去することが重要です。例えば、脆弱な社会にあっては、フェイクニュースによって良からぬ社会不安が生じる可能性があります。

 
AIシステムの対話技術もAIの普及に一役買いました。チャットボットはその一例で、幅広い組織がこれを導入して顧客とシームレスなやりとりを行っています。

 
学術研究の分野でも興味深い進展が見られます。例えば分子の毒性を検証する際、かつては大がかりな全排水毒性(WET)試験が必要でしたが、今は人体に対する毒性や致死性の有無を自動推論して、WET試験なしに多くのものを取り除くことができます。これによって医薬品開発の費用が大幅に削減されます。

 
これらすべては、それぞれ異なるAIシステムの特徴です。あと数年もすれば、これらの各種システムが統合され、大規模な包括的システムが築かれるでしょう。

Banerjee
Deeptiさんにうかがいます。産業界でAIを導入するなか、コロナ後にどのようなパターンや使用事例が見受けられるでしょうか？

Deepti
ひとつ挙げられるのは、工場作業員の安全確保手順を遵守できるということです。私たちはコンタクトトレーシング(接触者追跡)を始めて、従業員やその接触相手、接触内容を把握しようとしています。

 
次の課題は、工場に入る作業員を確実に保護することでした。防具(PPE)などを必ず装着させるということです。そのためにコンピュータービジョンを使って、彼らがベストやグローブ、ゴーグル、ヘルメットなどを付けているかどうかを確認するようにしました。各拠点で確立していた安全対策能力をさらに拡張した形です。それらの能力をコロナ後の領域へ拡大し、工場での健康・安全のために使い始めました。

 
もうひとつの課題はソーシャルディスタンスでした。コンピュータービジョンモデルを使って、作業員同士の距離を測り、すぐに警告を発するといったことができるようになりました。私たちの工場では、現場作業員の安全管理にコンピュータービジョンを利用できるよう、さまざまな策を講じました。

 
それ以外に各組織が取り組んできた課題は、サプライチェーンとそこにもたらされる影響を知ることです。これはグループ全体として着目してきた課題です。ラハ教授はリスク管理やそれをめぐる管理プロセスについて言及されました。そこでも私たちは多くの策を講じてきました。「ホットスポット」になりそうな場所や、「ブラックスワンイベント」が起きた時の影響を予測するのです。

 
調達部門にとって「予測」はなくてはならない要件です。彼らは今、構造化されたデータだけでなく、手に入る非構造化データにも目を向けることで、モデルの深化・強化を図っています。自然言語処理、デジタルアナリティクス、特定ソース由来のニュースフィードなども大いに活用されています。

Banerjee
Laha教授、AIの次なるステップはどのようなものでしょう？　AIに関して今、大きな注目を集める研究分野は何ですか？

Laha
テクノロジーが直面する問題を解決しようとする時に科学は進歩します。テクノロジーが現在直面している問題のひとつは、AIシステムはとても役立つのに、いまだにブラックボックスであること。だから、AIシステムについてもっと説明できるようにしたい、そういう方向へ多くの研究が向かうと思います。説明可能な統計モデルは随分前からありますが、もっと新しいシステム、ニューラルネットワークをベースにしたもっと複雑なシステムは、それを直接説明する方法がまだありません。その分野の革新的な研究が必要です。

多くの研究が期待されるもうひとつの分野は、画像処理や音声信号処理の利用に関するものです。人がどうやってコミュニケーションをとるのか、つまりどのように見て、聞いて、話すのか。例えば、カメラを人間の目の代わりに使えるでしょうか？

カメラを使って異常を検知できたら、事前に予防策を講じることもできます。例えばソーシャルディスタンスの場合、ある地点を超えたら健康上の危険がありますよと警告できたら、その人はそれ以上先へは行かないでしょう。ビジュアルエイド(視覚補助具)を使えば、その種の状況を察知・予防できます。画像や動画のこうした新しい分析方法が、社会や産業界でいろいろ応用されるのを期待しています。

もうひとつの分野は音声信号処理です。例えば先日、私はある組織が作成した文書を読みました。機械の欠陥検出にこの技術を利用しようとしているのです。基本的な考え方は、機械が正常稼働している時に音声信号を発生させるというものです。すると、機械から発される音を分析して、修理が必要か、他に何か問題が起きているかを判断できます。正常稼働している時の音と一致しなければ、それが警告のサインになります。

コロナ後の世界では、疾病監視におけるAI活用がもっと重視されるようになると思います。警告シグナルがいくつかあったにもかかわらず、私たちはパンデミックの到来を見逃してしまったと言われています。したがって今後は、疾病監視でのAI活用にスポットが当たるでしょう。そうした大きな混乱(ディスラプション)が頻繁に起きたら持ちこたえられないからです。医療全般について言えば、インド人10億人に質の高い医療を提供したければ、AIが必要です。

これから勢いが増すであろう分野はあと2つあります。ひとつは自動運転車です。特にインドのような途上国では、交通事故で多くの命が失われていますが、自動運転車はそんな事故をかなりの割合減らすことができます。

もうひとつは教育です。生徒や学生は一人ひとり違います。さまざまな時間に、さまざまな方法で、さまざまな情報から学びます。それがわかっているのに、それらすべてを集約するのは困難です。AIはこれを実現させる絶好のチャンスを提供してくれます。

Banerjee
Deeptiさんは、AIシステムの効率や精度をどう評価すればよいと思われますか？　日常生活でのAI導入をもっと進めるため、人々をどう説得すればよいでしょう？

Deepti
これはAIが直面する最も難しい問題のひとつです。例えば3～4年前、私たちは顧客とAIについて話すようになり、製品性能の改善や故障確率の予測のためのモデルにAIを使い始めました。その時、顧客から突き付けられた課題は「どうやって証明するのか。起こり得る故障をすべて検知できると言えるのか。故障は許されない」というものでした。私たちはさまざまな統計モデルの出力結果との差を示し、どう改善するかを説明しました。彼らの信頼を得てAIの能力を認めてもらうまでに1年から1年半ほどかかりました。

 
もうひとつの課題は作業員の同意を得ることでした。彼らは言うのです。「この工場にもう30年いるんだ。ノイズ音を聞けば、石炭か、石灰か、何を足せばいいかがわかる」。工場で何が起きているかを、彼らはそんなふ うに感じ取っているのです。でも私たちのモデルは音にそれほど敏感ではありません。ですから何度も何度も、シミュレーションを繰り返す必要がありました。そうしたシミュレーションのおかげで彼らの信用を勝ち取ることができました。

モデルの精度が低い時は、それだけを使って是正策を決めるのではなく、幅広い対策案の参考にしなさいと従業員には言っています。そうすることで、十分な情報に基づく意思決定が可能になります。信頼は少しずつ築かれています。私たちが何も隠さず、AIはすべての問題を解決するわけではなく、パフォーマンスの向上を手助けするものだと言っているせいもあるでしょう。

故障や不具合の可能性を予測できれば、現場での死傷事故も減らすことができます。問題を素早く特定し、作業員に対応時間を与えることが大切です。なぜなら故障は、機械だけでなく、そこにいる作業員に関しても大きな犠牲を伴うからです。衛生・健康・安全が、企業のAI導入を促すもうひとつの要因です。

Banerjee
Royさんにうかがいます。AI倫理についてどうお考えですか？　現在起きている重要な動きはどのようなものでしょう？

Roy
それは私たちが今直面している最も重要な問題のひとつです。NITI委員会では最初から、特にバイアスやプライバシーの問題など、AIのマイナス面も国家戦略の中で認めなければならないと強調してきました。ただ、規制が答えではないと私たちは言いました。

 
そうした問題に対応するためにこそテクノロジーに頼らなければならないというのが、私たちの見解でした。当時、Googleなど多くの大手テクノロジー企業が既にこのような研究を行っていました。例えばGoogleは、モデルのバイアスに対応することを目指していました。AIテクノロジーと共存・連携しようというのが私たちの提言でした。AIは進化途上にある技術であり、早い段階で多くの制約を課しすぎるとイノベーションが抑制され、その恩恵を私たちが受け取れないからです。

結果的にこのアプローチはよかったと思います。現在、テクノロジーが次々に世に出ているからです。NITI委員会はこうしたテクノロジーの多くをテストしてきました。ウェブサイト上にデータ共有アーキテクチャを構築しています。私たちは定期的に研究論文を発表し、意見を求めています。これによって政府は時代のニーズに応じた政策立案の機会を増やすことができます。

2つ目に強調したいのは、責任をめぐる政策です。私たちは昨年、「責任あるAI」*に関するシリーズ論考の最初の2パートを発表しました。パート1は、AI導入者や学界がエコシステム開発で守るべきガイドラインに焦点を当てました。パート2では執行メカニズムを提案しました。

このシリーズは対話方式で実施しており、パート1についてはおかげさまで、省庁間の協議も含め、話し合いがすべて終了しました。パート2はまだ完了していません。原則についてはほぼ合意できているものの、見解の相違がまだ見られるからです。適切なバランスをとる必要がありますので、関係者との協議終了へ向けて努力を続けていきます。

このように政策枠組みの立案を進めているところですから、政策が時間をかけて進化するよう、皆さんもぜひ意見をお寄せください。これは一度きりで終わる取り組みではありません。AIというテクノロジーそのものがまだ新しいわけですし、責任あるAIをめぐる議論も時間とともにもっと盛んになるでしょう。

*NITI Aayog: Reports. Responsible AI: Approach document for India, NITI Aayog, February 2021(PDF) .

Banerjee
バランスをとるというのは重要なポイントですね。データのプライバシーや規格、枠組みは必要ですが、かといってイノベーションの精神を抑え込むべきではありません。

AIテクノロジーは、パンデミックがもたらす重要課題への対応策を提供しています。インドではAIによって職場の安全が高まり、医療のあり方が改善され、将来的な疾病監視能力や、コロナなど重要な社会・経済的ニーズに関わるその他の能力が提供されようとしています。産業界はAIへの信頼を確立するためにも尽力していますし、政府をはじめとする各関係者は AIの適切な利用に関する基準や執行メカニズムを策定しつつあります。人間社会にとって前例のないこの時代、私たちは今後もさまざまな動向、イノベーションや発明の事例をお伝えしていきます。