生成AIに、話し相手になってもらうという人が増えている。愚痴をこぼせば、否定せずに耳を傾けてくれて、やさしい言葉も返してくれる──気づけば、そんなAIとの対話が感情のよりどころになっていた。もしもこのような、AIへの“依存”が進んだとして、それは果たして悪いことなのだろうか？
最先端技術に関する倫理的・法的・社会的課題──「ELSI（エルシー）」の考え方をひも解き、社会とビジネスにおける実践的な視点を提供する連載「ELSI最前線」。今月は、臨床哲学や哲学対話を専門とする鈴木径一郎氏が、生成AIの技術的発展と依存の問題について論じる。（第2回／全3回）
大阪大学社会技術共創研究センター（ELSIセンター）特任助教。大阪大学文学研究科博士後期課程単位取得退学。専門は臨床哲学・哲学プラクティス。ELSIセンターでは、さまざまなアクターとの哲学対話の実践経験を用いながら、多数の企業との「責任ある研究・イノベーション」に関する共同研究に従事している。共著に『哲学対話と教育』（大阪大学出版会, 2021）。プロフィール詳細
「依存」とはどういうことなのか
ということで、生成AIを感情のケアに用いていくことの影響や、より広くテクノロジーに関連した「アディクション」や「依存症」の問題を考える前提として、「依存」ということ自体についていくらか考えてみたい。
参考にするのは、生まれつき「脳性まひ」という障がいをもつ小児科医であり学者である熊谷晋一郎による、依存症と依存の関係についての議論である。
熊谷は『アディクションの地平線』（2022年）に収録された「依存症からの回復をめぐって」という示唆的な論考において、「何ものにも依存せずに生きている人など，存在しない」という「明らかな事実」を確認するところから始める——「あなたが毎日食べているお米は、誰が作っているのか。いつも身にまとっている衣服は誰が作っているのか〔…〕人間は誰しも、生活のほとんどを自力では行っていない〔…〕私たちの日常は、自己身体、モノ、他者身体、重力、大気、制度、慣習といった膨大な物理的・社会的環境の支えに「依存」しているのである」。
この「明らかな事実」については、「依存」という言葉をまずはニュートラルに広くとらえてみるならば、その通りであるといえるだろう。
そして、このように広く「依存」をとらえたうえで熊谷は、依存症者は「依存しすぎているのではなく、いまだ十分に依存できていない人々なのではないか」という興味深い仮説を提案するのである。
障がいと依存の関係に関する議論
この依存症者についての仮説は、生まれつきの障がい当時者として思考してきた熊谷の、障がいと依存の関係についての理解に由来する。
熊谷によれば、障がい者とはマジョリティと異なる身体特性により「多くの平均的な人々の身体に合うようにデザインされた人為的環境」への依存が妨げられている人々であり、「依存先の少なさ」と「限られた依存先への依存度の深さ」に特徴づけられる。
反対に、いわゆる健常者の特徴は依存先が相対的に多いということであり、それがもう一つの特徴であるところの、ひとつひとつの依存先への依存度の軽さとなる。
これはたとえば、自然災害等の緊急避難が必要な事態がおこったとして、そのときに居合わせた建物が、熊谷のような車椅子利用者の場合には避難経路としてエレベーターしか利用できず（依存先が少なく）、エレベーターが停止していると一人では逃げられない（依存度が深い）ようにデザインされてしまっている環境であったとしても、健常者の場合はエレベーターだけでなく階段も避難用梯子も利用できる（依存先が多い）ため、エレベーターの停止が問題にならない（依存度が軽い）というようなことである。
つまり、障がい者は採用できる依存先の少なさという意味で「十分に依存できていない」わけだが、依存症者もおなじような意味で「十分に依存できていない人々」ではないか、と熊谷はいうのである。
どのようなときに「依存」が問題になるのか
ただ、熊谷によれば障がい者と依存症者が異なるのは、なぜ十分に依存できない状況——「依存先が少なく」「限られた依存先への依存度が深い」状況——にあるかという点である。
障がい者は身体の特徴がマジョリティと異なることによって環境に依存できなくなるのに対して、依存症者は「環境が私を支えてくれるはずだという予期と信頼」、とくに「人的環境」への信頼を失うこと——つまりは、人を信頼できなくなるということであり、これにはしばしば虐待等の経験が関係している——によって環境に十分依存できなくなり、薬物等の「予期と信頼を寄せられる数少ない環境」への依存度を深めることになるのだという。
これは、長年の依存症外来での臨床経験とカルテの面接情報からの調査による小林桜児の「信頼障害としてのアディクション」という提案とも一致する見立てである。
このような熊谷の議論に従えば、「依存」自体は決して悪いことではない。依存先の極端な少なさや、それによる特定の依存先への依存度の深さが問題となり、ときには「依存症」ともされるのである。求められるのは、まずは依存先の増加であるし、避けられるべき依存とは、依存先を減らし特定の依存先への依存を深めてしまうような依存であるということになる。
では、このような「依存」と「依存症」の関係についての議論をふまえたうえで、生成AIの感情調整への応用という問題に戻って考えてみよう。
生成AI依存は「望ましい依存」といえるか
生成AIがわたしたちの感情のケアに利用できそうであるということは、やはり、依存先のオプションの増加ということであり、望ましい事態であるということになるのだろうか。
そうであるかもしれない。しかし、あくまで「依存先の増減」という軸だけから考えても、留意すべき点をいくつか挙げることができるだろう。
- それは本当に依存先の増加になっているか
- それは長期的に依存先を拡大していく能力を損なわないか
- それは長期的に依存先を縮小し独占してしまわないか
① それは本当に依存先の増加になっているか
一つ目は、その利用が、本当に依存先の増加になるか、つまり、この場合は感情調整に本当に使えるかということである。
進化生物学等の議論によれば、哺乳類は仲間の哺乳類を通じて感情を調整し、休息し回復するように進化しているという。人的環境による感情調整——つまりは他の人間を通じた感情調整——を、生成AIによる感情調整は十分に代替できるだろうか。いくらかは代替できるとしても、人的環境に依存することによってしか満たせない部分が残らないだろうか。
② それは長期的に依存先を拡大していく能力を損なわないか
二つ目は、その利用が、ユーザーの持つ依存先を拡大する力を損なわないかということである。
熊谷は依存先の開拓についての議論にあたり、そもそも依存先の拡大を可能にするために各人が利用することのできる資源が異なることに言及している。
「環境からのケア調達を可能にする資源」は多種多様であるし——それはケアと交換できる「財力」だったり、ケアを受けて当然とされる「地位」だったり、社会制度を使う「リテラシー」だったり、ケアを誘発する「容姿」だったり、既存のケアとフィットした「身体特性」だったり、地縁などの「つながり」だったりする——、その配分のされ方も異なるのだが、生成AIの感情調整への利用は、ユーザーの持ち合わせている特定の「ケア調達資源」を損なったり、その開発の機会を奪ったりしないだろうか。
とくに、①で問題にしたように、他の人間への依存を通じてしか満たせないものが残るとなった場合には、ユーザーが人的環境からのケア調達を試みる際に使える資源を長期的に損なったり、人的環境からのケア調達資源のそもそもの開発機会を奪ったりしないかどうかに留意する必要があるだろう。
③ それは長期的に依存先を縮小し独占してしまわないか
三つ目は、それが、短期的にはユーザーの依存先の増加となっても、中長期的には依存先を縮小していき、独占してしまわないかということである。
これは、まさにその技術自体の依存性という問題である。たとえばその技術の持つ、他の依存先と比較しての圧倒的なアクセスの手軽さ——それ自体はありがたいことのようであるが——によって、他の依存先の利用やメンテナンスが行われなくなり、他の依存先が使えなくなっていくというようなことがおこらないだろうか。
われわれのストレスや抑圧状況、心の傷が主に他の人間との関係からこそやってくるということを考えれば、人的環境からのケア調達ということは高コストであり、それをできるだけ避けようとすることには十分に理由がある。また、各個人に「自立」を求めるような規範の圧力も人的環境によるケアを避けさせる。
であれば、とりわけ人間にとって人的環境への一定の依存が必須であるような場合には、生成AIの感情的利用がユーザーの人的環境への依存を必要以上に縮小してしまわないか、つまり、ユーザーの望まぬ孤立を促進する方向に働かないかどうかに留意しておく必要があるだろう。
生成AIとの付き合い方を考えるために
以上、生成AIの感情調整への応用について「依存先の増加」という観点から注意すべき点をあげてきた。このような点への配慮は、可能なものについては技術の実際の使用よりも上流で、つまり技術の開発の段階で検討されて、導入される技術自体の中に組み込まれていることが望ましい（バイデザインでの対応）。
また、より下流の段階で配慮するしかない問題にしても、個人ではなく社会のレベルで対応が考えられるべきことは多いだろう。そのためにも、この技術がとくにどのような立場や特性の人のどのような利害に関わることになるかという分析が求められる。
しかし、いずれにしても生成AIが私たちの感情に作用する能力は向上し、「感情的利用」はますます進んでいくことになるだろう。そんななかで、今から個人のレベルでも配慮できることにはなにがあるだろう——これらの技術との個人的な付き合い方を考える上でもより良い方向を示唆してくれるような議論はあるだろうか？
参考文献
- 熊谷晋一郎「依存症からの回復をめぐって」松本俊彦編『アディクションの地平線：越境し交錯するケア』金剛出版，2022年．https://www.kongoshuppan.co.jp/book/b600717.html
- 小林桜児『人を信じられない病：信頼障害としてのアディクション』日本評論社，2016年．https://www.nippyo.co.jp/shop/book/7161.html
【次回更新は6月18日(水)18時予定】
🖊️あなたの視点をお聞かせください
記事に対する意見や質問を投稿できます。投稿いただいた内容はニュースレターや会員向け記事として紹介し、記事執筆者が応答します。ご購入いただくと過去記事含むすべてのコンテンツがご覧になれます。
過去のコンテンツも全て閲覧可能な月額サブスクリプションサービスです。
🔰シンクロナスの楽しみ方
最先端テクノロジーの社会実装における、倫理的・法的・社会的課題＝ELSI（エルシー）の最新話題を各分野の専門家が解説。
- 記事連載：様々な分野の専門家による論点解説
- ニュースレター：国内外のニュースや話題を毎月紹介
- フォーラム：会員読者と専門家が参加する議論の場
会員登録がまだの方は会員登録後に商品をご購入ください。
