音声ブラウザご使用の方向け: ナビメニューを飛ばして本文へ ナビメニューへ

  

Recommendations 
Concerning Social Robots

The Danish Council of Ethics

ソーシャルロボットに関する勧告

デンマーク国家生命倫理委員会

 

 訳:山内 

(20163) 

目次

   ソーシャルロボットと倫理

 かかわり合いの機器としてのソーシャルロボット

介護におけるかかわり合い

見せかけの倫理

学習するロボットが自己決定能力をもつとき

 

デンマーク国家生命倫理委員会のソーシャルロボットに関する勧告

1.介護と治療のためのソーシャルロボットと福祉機具

2.製造物責任とソーシャルロボット

3.ソーシャルロボットが内に心をもつふりをするとき

4.ソーシャルロボット、監視、プライバシー


 

ソーシャルロボットと倫理
Social robots and ethics

ロボット技術は、自動車、携帯電話、冷蔵庫など生産のための、明確に定められた複雑な作業を行うようプログラムされた、産業用ロボットの枠内にもはや納まらなくなっている。

人とかかわり、社会との関係を支援するロボットをこれからは見かけるようになろう。社会的・感性的かかわりのためのロボットがヨーロッパ、アメリカ、日本の研究室で開発されている。これまでの産業用ロボットとは違ったタイプのロボット、すなわち日常の場面で人々と統合できる「ソーシャルロボット[1]」である。特に日本では接客ロボットをはじめ、様々な「ソーシャルロボット」が市場に出回っている。このほかにも、家庭で様々な仕事をするロボットを買うこともできる。

デンマークにおいては、ソーシャルロボットをめぐる最近の論議は、2007年にデンマークの介護施設に導入された日本製のアザラ型シロボット「パロ」への関心が特徴的である。パロは対話型の知的ペットとみなすことができる。パロはセンサと人工知能によって、利用者が触れたり話しかけたりしたときに快・不快を鳴き声で表現する。つまり、利用者が愛情を表現することができ、認知症者に対する鎮静効果などの治療効果がある。

ソーシャルロボットの用途としては、現在のところ介護、家事、娯楽、軍用の4分野が想定される。デンマーク人のロボットとの最初の出会いは、介護の場面ではアザラシ型ロボットのパロ、娯楽の場面では話しかけると返事するロボット人形であった。しかし文字通り家事支援用の「召使いロボット」が実用化するのも実際に遠いことではない。日本では、子守ロボットや利用者に物を手渡す単純作業のロボット、すなわち移動に制限のある障害者のために物を持ち上げるロボット[2]を買うことができる。

このように、人と機械との間には新たなかかわり合いが既に始まっている。このかかわり合いには、今後の開発の動向がロボットに自立と自律とを装備する人工知能であるかどうかに関係なく、様々な面からの倫理的検討が必要である。

人工知能の研究者には、将来のロボットは、感覚と意思があり人間と殆ど同じように自己意識を持つまで発展すると考えている人も居る。しかしこれは近い将来のことではないというのが大方の見かたであり、その実現のためには数えきれぬほどの科学技術上の課題を解決しなくてはならない。また、それが原理的に不可能であるとの考えもあれば、可能であると信じている研究者もいる。

しかし、前述したように、現在のソーシャルロボットが感覚、意識や意思をともなう内なる心を有するわけではないとしても、人間とロボットとのかかわり合いについては倫理上の問題が既に発生している。

デンマーク生命倫理委員会のこの声明は、何よりもまず、ソーシャルロボットについて、また、ロボットのかかわり合いの機器としての機能がもたらす倫理上の問題について扱う。かかわり合いの機器としてのロボットは既に現実のものであり、さらに人工知能と様々な程度の行動の自由を獲得したロボットがどこまで進歩するかには関係なく、日常的な機器へと普及してゆくであろう。

ここで、「かかわり合いの機器」[3]とは、「人間が機器に対して感情的社会的かかわり合いをもつ結果として有用な効果を有する機器」であると定義する。利用者と機器との間の社会的感情的な相互作用は、実際にはかかわり合いの機器におけるユーザーインタフェースと言える。パロは利用者がパロを実際に気に掛けており、かつ、パロからの感情的影響を受け入れているときに限って沈静化の効果がある。家庭内における召使いロボットも、それが人々の中で行儀良く振る舞い、プライバシーの限界[4]や礼儀を心得えられる場合に限って適切に機能するであろう。

Top

 

かかわり合いの機器としてのソーシャルロボット
Social robots as relationship technology

かかわり合いの機器としてソーシャルロボットを利用するにあたって重要な倫理上の課題を3点指摘する。

1.第1に、ロボットと人間が社会的感情的なかかわり合いを互いに持ちはじめたとき、介護におけるかかわり合いとプライバシーの限界にどう影響するであろうか。

2.第2に、もしソーシャルロボットが人間に酷似した外見、コミュニケーション、振る舞いをするようになり、彼らが自立し、感覚を持つ活動的な存在となり、人間と同様の存在であるふりをし始めたとき、そのことは倫理的にはどの程度に問題となるであろうか。

3.第3に、もしソーシャルロボットが学習能力と様々な程度に行動の自由を獲得できたとき、それが何をもたらすかは疑問である。すなわち、選択肢の中から何らかの行動を選ぶに当たって、製造時に組み込んだシステムとアルゴリズムおよび他の技術によっては、一義的には決められない選択をする場合の問題である。

Top

 

介護におけるかかわり合い
Care relationships

近年、「福祉機具[5]」という用語が国内外の公共政策の論議において使われるようになった。デンマーク政府は2015年までの間に、福祉機具を含む省力化機器のために30億クローネの投資を決定した。福祉機具の開発はデンマークにとっては格好の投資対象である。デンマークは介護施設や在宅福祉用具など、介護分野における先進国である。デンマークは福祉機具の開発において指導的な役割を果たすことができると期待される。福祉機具は高齢者の介護と福祉環境を改善できるであろうし、高齢者の生活を改善し、より尊厳あるものにしてゆけるであろう。さらに、介護職のきつい肉体労働の軽減にも寄与できるであろう。最後に、しかし最も重要な点として、福祉機具の開発が人口の高齢化にも触発されていることを指摘しておきたい。将来は、要介護高齢者の増大に比べて介護を担当する若年人口の不足が予測されており、基本的な介護を支えるための労働の量と範囲を削減できるための機器の導入が必要となるからである。

しかし、福祉機具という用語はソーシャルロボットよりも遙かに広い範囲を含む。それは高齢者の自己充足に資するあらゆる先端機器を含む。これには、たとえば自動洗浄便器[6]が含まれるが、このための介護労働は不要となろう。浴室などにも同様の洗浄装置が可能であろうし、既に開発中のものも多く、既に生産されているものもある。このような機器によって、高齢者の在宅生活における清掃や身辺処理をより自己充足し、自立したものとすることができる。

この種の機器の利用に伴う倫理問題のうち最も重大なものは、高齢者の日常生活へのソーシャルロボットの導入のあり方が、人とのふれあいの補足のためであるか、あるいはその代替のためであるかという点にある。これにはパロも含まれる。デンマークの介護施設におけるパロに関する実験結果では、認知症高齢者がパロへの関心を継続するためには、介護者による助力を必要とすることが確かめられているとはいえ、この点には適切な配慮が必要である。この懸念は、ソーシャルロボットとしてのパロが、労働力を削減する口実のための、機器の例とされる危険性にある。

清拭や排泄介護に関しては、これまでのような、他人の助けによる人的介護に伴うプライバシーの限界を侵す必要がなくなることは、倫理面での利点と言って良かろう。家族や介護職が、介護の場面での清拭や排泄介護に多大の時間を費やす必要がなくなり、対話や単に傍にいるだけといった、より質の高い人的ふれあいのための時間を増やすための論議である。

他方、福祉機具、特にパロや召使いロボットなどのソーシャルロボットの導入によって、身体的ふれあいが少なくなり、心情的な共感や家族的な絆を共有する人に対する介護の義務感が弱くなるのではないかという懸念がある。これは、ソーシャルロボットが人とのふれあいを補足するのではなく、ふれあいの代替とされる場合に想定される懸念である。

ソーシャルロボットが現在は人々の相互扶助によっているものの一部を代替できることは明らかである。これは、我々が介護や人とのふれあいなどと言っている支援のイメージを変えさせるものとなろう。たとえば、ロボットを含む福祉機具によるプライバシーへの介入を伴う排泄介護の代替が普及すれば、実際の介護に関する我々の想定も変化するであろう。おそらく、人的介護は一緒に座って話し相手となることを指すようになり、それのみを[7]指すようになるであろう。

倫理的には、これは進歩とも退歩ともいえる。生活のプライバシーにかかわる部分を他人の助力に慣れることを強いられないのは、自由と尊厳とを回復することになるとの主張ができよう。他方では、人々が互いの身体的に脆弱な部分を余りに隠しすぎたり、要介護者と介護者の間における本質的な要素である身体的ふれ合いから過度に遮られるたりすると、人的介護から何かが失われるとの指摘もあるであろう。

要約すると、介護におけるかかわり合いにおいて、ソーシャルロボットに関しては2つの倫理的問題が存在する。

第一に、ソーシャルロボットは介護においては人と人とのふれあいを補足するものであろうか、あるいは代替するものであろうか。

第二に、ソーシャルロボットによって代替すべき介護作業が存在するとして、それは何であろうか。そのような介護をソーシャルロボットで代替することが望ましいであろうか?

アザラシ型ロボット、パロのようなソーシャルロボットは人間あるいはペットとはおそらく全く異なったものをもたらすであろう。認知症高齢者がパロに接するとき、刺激効果と鎮静効果の両者があり得る。脳が刺激を受け、パロなしには実現できなかった良好な状態を保つことができれば、おそらく治療効果をもたらすであろう。デンマークでのパロの臨床実験の結果では、一般的な活性化の効果と失われた脳機能の訓練効果との間には差は見いだされなかった。即ち、治療効果に関しては未だにエビデンスがないが、認知症高齢者の中にはパロによって活性化され、精神状態と生活の質が改善される効果をもたらした例が見出されている。

このような形のふれあい効果は人や生きたペットとのふれあいによっては得られないものであることは自明である。認知症者の望むに任せて叩いたり、愛撫したり、話しかけてよいのは、パロのようなロボットだけである。ここで、新たに発生する倫理問題は、この治療法が有効であるか否か、また、他の治療法に比べてどの程度の優先度を持たせるべきであるかという点である。最後に、このような状況の下で「見せかけ」を使うことはそれだけでも倫理的な問題ではないだろうか。言い換えれば、治療効果が一種の「欺瞞」に依っていることは問題ではないだろうか。すなわち、ロボットが人の介護に関心を持っており、何らかの意味で単なる事物以上の存在である「ふり」であることに問題はないだろうか。

Top

 

「見せかけ」の倫理
The ethics of pretence

人間と周囲の事物との間に感情をもったかかわり合いが形成されやすいことは研究面でも日常生活でもよく見かけることである。また、我々自身と同じような内なる心をこれらの事物が有しているかのごとく受取りがちであることも事実である。

我々は子供の人形あそびからファンタジーゲームの登場人物に至る様々な事物に生気のあることを認める。しかし、ロボットを社会に組み込み人間と共生するために、事物に生気を与え擬人化するのは人間の能力によるものであることを、先端的なロボット研究は早くから認識している。このような洞察は工学や社会心理学の何年にもわたる研究で築かれてきたものである。

初期のロボット研究におけるこのような例は、奇妙な形をした胸像で、大きい唇、眼、耳のあるソーシャルロボット、キズメットである。キズメットは子供とロボットとのふれあいの研究のために開発された。それは、ロボットが人を感情的関係へと誘うのは、いくつかの際だった特徴と挙動によるものであるとの科学的知見に基づいて開発された。キズメットは人には似ていないが、人としての特徴が猫のような耳に組み合わされている。キズメットは事物に注意を向けることができ、好感や興奮を表明する様々な尺度を内蔵している。キズメットが言語を理解しないことは興味深い。言葉に依るのではなく、声の調子にのみ反応する。これは韻律と呼ばれ、乳児がほめられたり禁止されたりするのを声の調子で本能的に理解するのと同じである。

キズメットとパロは人間がロボットとの間に社会的・感情的かかわり合いを築くために高度の人工知能を必要とするわけではないことを示している。ここでの問題は、そのような関係が人と機械との間に形成されること、そのようなかかわり合いが「見せかけ」の要素に基づいて形成されることに伴う倫理的問題である。ソーシャルロボットは人間とのふれあいの結果として何らかの感情や内面的状態を獲得したように「見せかけ」、その結果、人が世話しなくてはならず、話し合わなければならないと思わせる。たとえ、誰もロボットの持ち主をだまして、ロボットが単なる機械以上のものであると信じるようにはさせなかったとしても、この見せかけは、倫理的な問題とはならないであろうか。

この観点から少なくとも2つの倫理的懸念が派生する。第一に、欺きを含むことに対して抱く不快感である。なぜなら、小児や認知症高齢者など程度の差はあれ脆弱な人々に対して、通常の介護ならば人々と生き物との間に生まれるべき社会的かかわりにまがい物を提供することは、人格の尊厳にもかかわることであるためである。それはパロのようなソーシャルロボットに初めて接したとき、多くの人が最初に直感的に感じる懸念である。これには二つの要素がある。一つはそれが偽物であり、本物ではないという事実であり、さらには人間と機械との間にそのようなかかわりを持ちこむことが人間としての尊厳を損なうからである。

第二に、このかかわり合いの機器が人と人との関係の理解に及ぼすかもしれない副次的効果である。パロやロボット人形などのかかわり合いの機器を過度に使用することは、人々が互いに分かりあい、つきあってゆくことに好ましくない効果を及ぼす可能性がある。かつて売られていたソニーのロボット犬アイボの使用者に関する研究結果によれば、ロボット犬を珍しい機械であると同時に内的な精神状態を有するものと理解していた。これは、アイボが機械であることを明瞭に理解していたにもかかわらず、あたかも生き物であるかのごとき感情を引き起こさせるためである。しかし同時に、持ち主はアイボが世話と配慮を求める道徳的な権利を有する対象とは明らかには考えていない。内面的感情を装う一方の事物が他方の人間や子供の感情を目覚めさせるが、互いの道徳的責務には関係ないとする社会関係を理想として子供達が教育されたとすれば、それは発達心理学的問題であると指摘する研究者もいる。このような関係が対人関係に持ち込まれ、ナルシズムやエゴイズムを増大させ、ある人々は感情的に他の人々と結びつくが、その人たちを世話しなくても良いと考えることへの懸念である。

Top

 

学習するロボットが自己決定能力をもつとき
When learning robots can make their own decisions

1922年にSF作家のアイザック・アシモフはロボットの三原則を作った。この三原則は自己決定が可能なロボットが人間に対して不適切な行動を取らないことを保証するための規則である。すなわち、第1に、ロボットは人に危害を加えてはならない。第2に、第1の原則に反しない限り、ロボットは人間に従わなくてはならない。第3に、第1、第2の原則に反しない限り、ロボットは自己の存在を防護しなければならない。

この3つの原則に基づいて、アシモフは数々の短編を著したが、これらは倫理的に受け入れられる行動に関する簡単な原理を立てることの難しさを示している。複雑な倫理上の問題を解決せねばならないロボットは、未だに遠い将来の問題である。それにも拘わらず、自己決定が可能なロボットの安全性と技術に関する問題についての研究や専門的な論議が行われている。

この問題は現在ではフィクションとしか思われないが、将来における可能性としての重要な倫理的論点であり、この分野の専門家によれば、ある時点ではそれが実現される可能性があるとのことである。近未来のソーシャルロボットはある程度の行動の自由を獲得するため、それに伴う倫理的検討が必要となる。ただし、この自由度はどう考えてみても普通の人間の行動の自由には遙かに及ばない。

人間の自己決定と自由という言葉の中に何を見ようと、ソーシャルロボットが近い将来に経験から学習する能力を獲得できるようになることは明らかである。そのような例に家庭用の召使いロボットがある。ここでは、一定の範囲内での何らかの選択の自由を有するであろう。

勿論、ロボットが我々の想像を越えるほどの可能性を持つわけではない。しかし、ソーシャルロボットは何らかの意味で子供が学習するときと同じように学習できるための感覚とアルゴリズムを持つべきである。ここでの学習は、例えば誰かに物を渡すことなどについて、人が手本を示すことや行為の仕方を説明することである。

学習するロボットに伴う最初の現実的な問題は責任の問題である。ロボットが環境との相互作用から学習できるとすると、完全に決定論的にプログラムされあらかじめ定められたように行動する場合とは異なった、「新たな」行動をロボットは示すであろう。その行動に誰が責任を負うべきであろうか。

ロボットが柔軟に意思決定できる学習システムを装備しており、完全には予測できない行動を取るとき、ロボットの製造会社には責任がないであろうか。ロボットが故障して持ち主の命令通りに動かなかったとき、誰に責任があるだろうか。たとえば、ロボットがある物を他の物と取り違え、強く握りすぎて物を壊したり、運悪く人を傷つけてしまったりしたとする。そして学習がたまたま適切ではなかったことのせいにされたとする。柔軟で予測不能な学習がロボットの機能を発揮するための核心であるとして、誰に責任があるだろうか。

ここで重要なことは、もし、責任分担を明確にすべきだとするならば、責任を負うべき者は事態を完全に掌握できる者でなくてはならないということである。しかし、この場合にはそれは成り立たない。未成年の子供の行為に対しては、両親にその行為に直接の責任があろうとなかろうと、ある程度までの責任は両親にある。同様に、工場の経営者は工場における事故については、彼がその原因に直接の責任がなくそれを合理的に予見することも防止することもできなかったとしても、責任がある。最後に、製造事業者は安全基準を守る責任があり、製造物の使用者が使用に際して危害にさらされるべきではないことを指摘しておく。

Top

 

 

デンマーク国家生命倫理委員会のソーシャルロボットに関する勧告
The Danish Council of Ethics' recommendations on social robots

デンマーク国家生命倫理委員会は日常生活の支援、娯楽、治療のために人々の中で使われるロボットの進歩とともに倫理的検討が早晩必要になると信じる。中には、現段階で予見あるいは記述するのはあまりに困難ものも含む。従って、ロボット技術に引き続き注目し、倫理的立場からの発言を継続すべきである。下記の短い勧告はソーシャルロボットとかかわり合いの機器の分野における最も核心的で実際的な問題に対する国家生命倫理委員会の指針である。この勧告は政治家やこの分野の関係者が、この分野に関する規則を制定し、あるいは新規機器の開発を行うときに念頭に置くべきものである。

 

1.介護と医療のためのソーシャルロボットと福祉機具
  Social robots and welfare technology as elements of care and therapy

デンマーク国家生命倫理委員会はパロのようなソーシャルロボットを使うことに関しては、そのような機器が介護や医療を補足するものである限り積極的な態度を維持する。デンマーク国家生命倫理委員会は、福祉機具の開発を推進すべきであり,それによって多くの人々のプライバシーの侵害となる身体介護を部分的に代替でき、介護職の肉体労働の軽減も可能とすべきであると考える。

これらの機器が人との身体的ふれあい、付き添いや介護を代替するために導入されるべきではない点は強調しすぎることはない。逆に、デンマーク国家生命倫理委員会はこれらの機器が人による身体的ふれあいによる介護、すなわち、優しさやふれあい、付き添いや話し相手となるなどのための人的資源を確保するためにのみ用いるべきであると確信している。しかし同時に、デンマーク国家生命倫理委員会は質の良い介護は必要性と依存性とに関連している点にも着目する。すなわち、優しさ、身体的ふれあい、付き添いや話し相手になることが身体介護、訪問介護における援助や支援への必要性から生じているものである。

デンマーク国家生命倫理委員会の信じるところによれば、この分野における技術開発は人とのふれあいの機会を増やすことを基本原理とすべきであり、人とのふれあいを不適当な代替物によって置き換えるべきではない。

デンマーク国家生命倫理委員会は脆弱な市民のためのソーシャルロボットやかかわり合いの機器の開発は、倫理的観点から注意深く見守ってゆくべきであると確信する。従って、デンマーク国家生命倫理委員会は、たとえばアザラシ型ロボットパロについて、人を対象とする研究の倫理審査委員会[8]の承認を得た上での臨床研究の重要性を指摘しておきたい。介護施設においてはパロのようなソーシャルロボットは介護一般の中で[9]導入することも可能である。しかし、それが人とかかわり合いの機器の相互作用に関する組織的な観察を含み、機器の治療効果を明らかにするための研究として行われるのであれば、そのプロジェクトは倫理審査によって承認されなくてはならない。デンマーク国家生命倫理委員会はそのような実験が人を対象とする倫理審査委員会の審査を受けることが有益であると信じる。これによって、介護施設における日常業務に導入する前に、社会的、倫理的、社会学的検討を受けていることを確認することができる。

アザラシ型ロボットパロや身体介護のための福祉機具は、緊縮財政の下では人的介護を補足するためではなく、それを削減するために使われるおそれがあると当委員会は考える。これは悪意をもっての言明ではない。何かを補足する目的で、善意で導入された機器が、介護職が少なかったり介護費用が不足したりしたために、安易な手段として緊急避難的に使われる可能性がある。従って、デンマーク国家生命倫理委員会は介護部門におけるこの種の機器の導入のためには、介護部門における高度の職業的スキルや人材面における規準の策定を求める必要があると考える。すなわち、可能な限り質の良い人的介護を提供し続けるとともに、高齢者が可能な限り質の高い生活を継続するための支援を確保するための規準である。

デンマーク国家生命倫理委員会は、どのような介護環境であれロボット機器の導入に当たっては、要介護者の利益の代弁者を含む合議によって、倫理的側面をも視野に入れた検討に基づくべきことを勧告する。

デンマーク国家生命倫理委員会は、結論として、機器によって人とのふれあいを補足できるかぎり、精神面での治療や身体介護の補助のために先端技術を導入することには積極的態度をとる。さらに、機器によって人的資源を解放し、介護職の優しさ、付き添い、話しかけなどのためのゆとりをもたらすことできればさらに望ましい。身体介護において人とのふれあいを取り除くことは、紛れもなく一種の殺菌のようなもので、身体的ふれあいの重要性への配慮を欠いている。これらのために、機器の助けを借りた介護と人手による介護の間のバランスを維持しなければならない。デンマーク国家生命倫理委員会はどちらの介護を選ぶかは要介護当事者の意思に委ねるべきであると確信する。

Top

 

2.製造物責任とソーシャルロボット
  Product responsibility and social robots

ソーシャルロボットが、在宅あるいは施設において身体介護を必要とする人のための「召使い」として使われるようになることを長期的には予期しなければならない。ソーシャルロボットは柔軟に仕事をするであろうし、その持ち主の環境や習慣に適応するようになるだろう。

この柔軟性はソーシャルロボットが家庭に持ち込まれる前にはプログラムされていなかった新しい行為を学習する能力を持つことに強く関連している。学習能力はロボットに備わっているが、持ち主が特定の環境で特定の行為を実際にロボットに教え込むことができることが学習の核心であるから、特定の行為の詳細を具体的に予見することはできない。ロボットに教えることは人に教えるときのプロセスに似ているというのがロボット研究者の大方の見方である。それは、ロボットに何をなすべきかを示すこと(たとえば、冷蔵庫から箱を取り出して机の上に置くなど)である。

ソーシャルロボットの学習能力はその責任の所在に関して倫理的問題を提起する。問題となる行為があらかじめロボットにプログラムされていなかった場合、製造会社はロボットの行った誤りに責任があるであろうか。抽象度の程度に拘わらず、ロボットが学習能力を持ちうることには疑いがない。ロボットを制限するのは内部的には組み込まれた人工知能(音声認識、画像認識、空間認知、社会的行動における規則の遵守など)の程度によっており、外部的には機械的可動部およびセンサによっている。

ここでは目を見張るような過ちに特に注目しようとしているわけではない。基本的にはロボットが事物を認識する能力であり、持ち主が特定の事物につけた名前を外部に存在する事物に正しく結びつけ、指示に適切に反応する能力に関するものである。ロボットがあるものを握るよう命令されたとき、人の腕を強く握ったとしよう。たとえば、普段はその事物がその人の立っていた場所に置いてあり、その事物と人とを視覚的に区別することができなかったとしよう。このような誤作動に対しては誰に責任があるだろうか。個々の行動と機能はロボットの設計時には組み込まれてはいなかったものである。責任を負うべきは製造事業者であろうか、それともロボットの持ち主であろうか。

デンマーク国家生命倫理委員会の見解では、在宅用に販売される学習機能のあるロボットには、あらゆる状況におけるあらゆる行動が部分的には予見不可能であるために、ロボットが備える「物理的能力」を明確に制限する基準がなければならない。これに加えて、学習能力、センシング能力、運動能力を持つソーシャルロボットは総合的視点から制定された標準に基づいた試験が求められる。このための標準は、柔軟で学習能力あるロボットは、たとえ「悪いことを学習」したとしても、材料の破壊や人への危害などの重大事故を引き起こすことがないことを保証するものでなければならない。ソーシャルロボットが学習した教示に部分的には依存しているために、認知症者他の制限能力者が利用する場合には、格別の警戒と安全規則の追加が必要となる。

Top

 

3.ソーシャルロボットが内に心をもつふりをするとき
  When social robots pretend to have an inner life

ソーシャルロボットの目的の中でも重要なものに、人と人が容易に共存し互いに意思疎通を図るときと同じように、自然な意思疎通に基づいて役割を果たし、仕事をすることがある。ソーシャルロボットには持ち主が命令するためのキーボードがない。ソーシャルロボットは持ち主が見つめたときや命令したときに直ちに反応しなければならない。ソーシャルロボットは持ち主の言葉、身振り、体温などを感じ、持ち主の感情を読み取り、適切に反応しなければならない。たとえば、持ち主が邪魔されたくないと思っているときには邪魔してはならない。

このための技術的原理は、人と人とのかかわり方を部分的にコピーして人と機械(ソーシャルロボット)のかかわり合いに投影することにある。ソーシャルロボットの技術は、程度の差こそあれ人間らしさを強調し、擬人化して生命を与える方向へと、焦点をあてつつある。人間やペットに部分的に似ているソーシャルロボットは内なる感覚を持っているかのごとき振る舞いをする機構を有している。たとえば、単なる顔の表情、眼の集中、パロの出す満足げな声などである。この機械は持ち主が行動の中で「ゲームをする」ように設計されており、持ち主の行動やソ-シャルロボットとのやりとりの中では、ロボットの外見の動きをロボットの感情を表すものと解釈する。

このような「ゲーム」、あるいは人間と機械との間に相互の感情的なかかわり合いや人間同士のかかわりと同じようなかかわり合いがあるかのごとく見せかけることに倫理上の問題があるだろうか。デンマーク国家生命倫理委員会は、この「見せかけ」にはロボットの製造事業者とそれを受け取る社会の双方において少なくとも2つの倫理的課題があると信じる。

第一に、ロボットに情動と内なる心があるとの見せかけはある種の欺瞞から純粋な「ゲーム」まで連続して機能するが、持ち主はロボットが遊びや介護のための道具に過ぎないと明確に意識している。欺瞞の程度は持ち主の年齢や生活環境にも依存する。つまり、持ち主が子供や重度の認知症高齢者のように責任能力のない場合にはより強く欺かれるのは間違いない。デンマーク国家生命倫理委員会は、持ち主が完全には責任能力のない場合ですら、欺きあるいは見せかけの要素が含まれることを必ずしも問題視しているわけではない。ただし、それはパロのようにソーシャルロボットと触れあうことが持ち主の福利に有益である場合に限る。しかし、責任能力ある人(認知症高齢者の場合は介護者)が持ち主の尊厳が侵されることがないか常に見極めていることが条件であると当委員会は信じる。その見極めとは、利用者の主体性への影響、利用者の社会関係に及ぼす影響などである。たとえば、機械に心を奪われてしまい、それが機械であることすら気づいていない故をもって、認知症者が子供扱いされ、他の人から見下されたりしてはいないか見極めることである。

第二に、ソーシャルロボットの使いすぎが人間の感情生活を矮小化するかもしれないとの疑問がある。この倫理上の問題は欺瞞の要素の有無には拘わらず問われるものであり、それはゲームそのものあるいはソーシャルロボットとの見せかけの感情的かかわり合いが、望ましくない心理社会的結果をもたらすかも知れないためである。

何らかの仕方で人間との感情的なかかわりを持ち、いずれは外見や挙動で人間に似てくるロボットに関して、ロボット研究者や論客が何らかの基準を持つべきであると主張するのは、人間の感情生活を矮小化するおそれがあるためである。これら人間に似せた機械を好きに任せて扱うことに慣れてしまったら、血肉ある人間に対する敬意や共感にどのような影響があるだろうか。

既に述べたように、持ち主はソ-シャルロボットに感情的にとらわれがちであるとの研究結果がある。実際には片方にだけ利益をもたらす一方向のかかわり合いであるにもかかわらず、ロボットが人間やペットと実際にかかわり合っているかのごとく生々しく模倣するために、不運な心理的結果を生む可能性があり得る。これが自己中心的な社会関係の先駆けを作り出すのではないかとの懸念もある。このかかわり合いは片方が他方の福利に対する道徳的責任感なしに、相手から感情的なものを得るからである。

ソーシャルロボットに関するこのような懸念と考察は、インターネットのソーシャルネットワーク上の(暴力的な)コンピュータゲーム、アバターや様々な人工物に対して投げかけられた懸念を想起させる。この新たなかかわり合いや意思疎通の形式は人間関係の低下を意味するであろうか。デンマーク国家生命倫理委員会はこれに関しては明確な回答を有しない。

しかし委員会は、立法府と社会が一体となってこの問題の展開に留意し、ソーシャルロボットが子供や青年を対象として商品化するときの市場を規制すべきであることを指摘しておく。これは子供や青年を望ましくない社会心理的影響から守るために実際に必要なことである。

Top

 

4.ソーシャルロボット、監視、プライバシー
  Social robots, monitoring and privacy

人間の活動や消費パターンを監視し、記録する技術が社会に広がっている。このような監視が許される方法と時機、記録の許される情報と当局による情報の保管の方法などについては様々な規制がある。個人情報を取得し記録することの有用性とプライバシーの尊重に関する倫理的論争は新しい論点ではない。のみならず、ソーシャルロボットをこの文脈の中で導入することが、プライバシーの尊重と個人情報の利用に関する新たな倫理上の問題を提起する訳でもない。しかし、在宅や施設におけるソーシャルロボットが、プライバシーと個人情報をその権限のない者に開示してしまう古典的な倫理問題にかかわる課題がある。

ソーシャルロボットは持ち主に関する情報を2つの方法で得ることができる。もし他のシステムや人物、当局に情報が漏れた場合には、監視と守秘が特に問題となる情報がある。一つの形式は、通常のコンピュータに保管できるもので、個人の属性などの情報、健康情報、写真、銀行口座他の機密を要する個人情報である。

ソーシャルロボットが収集できるもう一つの形式は、この種の機器に少々特有のものである。性能の良いソーシャルロボットならば、持ち主の性癖の他にも、生鮮食品や薬局へのインターネットでの注文といった消費パターンを記録することができる。このような技術の可能性は、いずれは数え切れないものとなろう。このように、ロボットは持ち主の行動や行為を記録することができる。このタイプの情報は、書籍や音楽をインターネットの大規模購入サイトから購入したときに自動的に発生する消費分析のようなものである。使用者が許すならばコンピュータはいわゆるクッキーをインターネットショップに発行し、それまでの購買歴に見合う提案を行う。このタイプの行動にかかわる情報はソーシャルロボットが収集し他のシステム、すなわち、インターネットショップや当局に送るに適したものである。しかし、ソーシャルロボットは使用者から学習するようにできているので、よりプライベートな情報(トイレの回数、来客数、テレビの特定のチャンネルの視聴時間など)を収録することをも可能とする。

デンマーク国家生命倫理委員会の信じるところによれば、ソーシャルロボットは外部の情報システムとの接続を最小限にすべきであり、プライバシーにかかわる個人情報(静的情報であると行動情報であると問わず)を収録するソーシャルロボットをインターネットや他のシステムに接続するときには高度の機密保護が求められる。他方、ソーシャルロボットがインターネットのサービスとの間で容易に電子的な情報交換を可能とすればより有用性が増すことは明白である。

デンマーク国家生命倫理委員会はソーシャルロボットには、現在コンピュータやインターネットに対して課されていると同等の規制を広く課すべきであると信じている。ここで問題とされる機密保護は、ソフトウェアの開発者、インターネット・アクセス・プロバイダー、インターネット・サービス・プロバイダーに対して課されていると同様のもので、ネットショップやネットバンクの利用に際して機密を要する個人情報が利用者の知らぬ間にネット上に広がってしまう危険なしに利用できることを保証するものである。コンピュータとインターネット接続によって、使用者は自分自身に関して望む範囲の個人情報を保管することができる。使用者は選択した情報を、たとえばインターネット上の受け取って欲しい人に送ることもできる。しかし、デンマーク国家生命倫理委員会は、個人の行動と健康に関する情報を拡散させることを技術的には可能とするソーシャルロボットに対しては、より高度の消費者保護が必要不可欠であると信じる。この分野に対する規制では、情報のタイプによって異なる機密保持のレベルを考慮せねばならない可能性もある。持ち主はたとえば冷蔵庫に食品を貯えておくようロボットに指示することができる。このような場合、消費パターンを情報サービスに通報することを許し、ロボットによって用意する食事の一例を提案するなどが可能であろう。限定された範囲の情報についてなら、そのような機能のあるロボットを想定することは困難ではない。現在、持ち主とのふれあいの結果としてロボットが収録する情報(たとえば服用中の医薬品、読書の癖、興味など)に関しては、ロボットが普通のコンピュータとして振る舞うことを「強制」させられていると解釈することもできる。すなわち、持ち主が手動でロボットのユーザーインタフェースを使った場合やコマンドに対応してよってロボットがコンピュータに情報を転送した場合にのみ可能である。

 

 

20101021日改訂(Updated 21st October 2010

 

 

The Danish Council of Ethics

Holbergsgade     
1057 Copenhagen
Denmark
Tel: +45 7226 9370

 

 

デンマーク国家生命倫理委員会

デンマーク国家生命倫理委員会は生命や人間性、環境や食品にかかわるバイオテクノロジーに関する提言ならびに議論を喚起する。委員会はまた健康医療分野の倫理問題についても取り扱う。

 

【訳者より】

この勧告は2007年デンマーク国家生命倫理委員会より公表され、2010年に改訂された” Recommendations concerning Social Robots”を同委員会の許可を得て訳出したものです。脚注はすべて訳者によるもので、日本の現状と比べて誤解の発生しないことに留意して付けたものです。

 

 

 

1.    ソーシャルロボット: ソーシャルロボットはデンマークの国家生命倫理委員会がこの勧告の中で定義したもの。本文から理解できるように、介護、家事、娯楽、軍用の4分野があるとされており、産業用以外のすべてのロボットを指す。介護用の中に医療用を含むかどうかは不明。我が国の「サービスロボット」との相違は、医療用と軍事用の2点のように思われる。

2.    物を持ち上げるロボット日本で市販されていたこの種のロボットとしてはマイスプーン以外に心当たりがない。

3.    かかわり合いの機器”relationship technology”の訳。この勧告では本文中で「人間が機器に対して感情的・社会的かかわり合いをもつ結果として有用な効果を有する機器」と定義されているが、この勧告ではロボットに対して人が感情的社会的なかかわりを持つことに関する倫理上の問題を中心的な問題に据えているために、この勧告の核心的概念といえる。この問題を強調したいときにはロボットを”relationship technology”と表現している。

4.    プライバシーの限界”intimacy limit”の訳。特に排泄介護に関して述べられており、身体介護において介護者が要介護者のプライバシーにかかわらざるを得ない限界を表現している。

5.    福祉機具welfare technologyの訳。デンマーク語ではVelfærdsteknologi、スウェーデン語ではVälfärdsteknologi2007年にデンマークで、Assistive technology(福祉機器、福祉用具を表現する標準的な英語。デンマーク語ではhjælpemidler、スウェーデン語ではHjälpmedel)に対置して作られた用語。Assistive technologyは障害者の日常の用を支援するための機器で、北欧における給付制度では必要としている人には無償で給付することになっている。一方、福祉機具は高齢者、障害者に有用な機器であるが、必ずしも給付の対象とはなっていない機器で、ロボットやテレメディシンなどのハイテクの他、天井走行式リフトや昇降式温水洗浄便座などデンマークで普及していない機器も含まれる。ここでは、福祉機器、福祉用具などの日本語と区別するために「福祉機具」と訳した。なお、スウェーデンとノルウェーにおける公式の定義は、高齢者、障害者に有用なあらゆる機器であって,我が国の共用品をも含む概念である。デンマークにおける定義とは違っている点に注意が必要である。なお、Assistive technologyにおける”technology”は「技術」の意味ではなく、「機器」の意味で使われており、その日本語訳は「支援機器」である。なお、文献:http://www.f.waseda.jp/s_yamauchi/docs/JJSWSAT_07_45_2007.pdfおよび山内繁:北欧の福祉用具瞥見, 日本生活支援工学会誌, 14(2), 21-25 (2014).を参照。

6.    自動洗浄便器automatically cleaned toilet, self-cleaning tioletの訳。我が国で広く用いられている温水洗浄便座ではなく、便器そのものを自動的に洗浄するロボット便器をさす。パリ、ニューヨーク、サンフランシスコなどに設置されている有料公衆便所で使われている。

7.    排泄ロボットが実用化されても、移乗、移動などの介護作業は必要であり、それのみは言い過ぎで、ふれあいの中の重点が変化することを強調したかったものであろう。

8.    人を対象とする研究の倫理審査委員会デンマークの倫理審査委員会は法律に基づいて設置され、内務保健大臣の任命する中央倫理審査委員会と5つの州政府が任命する8つの地方倫理審査委員会があり、いずれも過半数は非専門家より構成される。委員会の決定に対する違反者には罰金又は4ヶ月以下の禁固刑の対象となる刑事罰が科される。

9.    介護一般の中でここでは、研究のための倫理審査の必要性と、サービス提供のためには倫理審査は不要であることの区別について述べている。ベルモントレポートによる診療と研究との区別に基づいている。人を対象とする研究の倫理は研究倫理、診療などのサービスの倫理は生命倫理として位置づけている。