信頼性と社会的影響が懸念されています。
ChatGPTと道徳的問題について話をします。
ChatGPTというAIを利用したチャット装置が話題になっています。使ってみると分かるのですが，質問すると，説明口調で大変丁寧な返答をします。チャットで出された返答を行政文書に利用する等の検討もされているようです。
（参考 日本経済新聞社：「河野太郎デジタル相、ChatGPT「なるべく早く行政に」」）
士業においても，非常にChatGPTによる文書作成能力について，大きな興味と不安が広がっているところです。弁護士等の士業の相談業務を奪うという懸念もされています。
（参考 アゴラ ，行政書士 横須賀 輝尚氏：「ChatGPTは、弁護士や税理士など士業の相談業務を奪うのか？」）
登記のことや法律解釈等について質問してみると，まだまだ正確性に欠く回答も多いですが（弊所ツイッター参照），装置側が学習することによって，いずれは一般的な答えについては，正確性の高いものとなっていきそうです。
しかしながら，将来性の高い便利な装置にも感じますが，研究者等からは，その回答について，道徳的に問題があるとの懸念が示されています。
（PC Wacth :「ChatGPTが人間の道徳的判断に影響を与え得るとする研究結果」）
AIが出す答えが道徳的に問題があるというのは，自動運転を例として社会心理学者等の間からは，先に懸念が示されています。
（例 日本心理学会，谷辺哲史博士「人工知能による判断の自動化と道徳的問題」）
今後，士業がする判断をAIに一部させる場合においても，脱法的返答（利益相反や他人をかえりみないで自己利益のみの内容等）や，非違行為（知られなければ法律違反をしてもよいという内容等）をどう扱うかが，必ず問題になってくるものと思われます。