生成AIに答えの間違いの理由を聞いてみました。
普段は患者さんへのアドバイスや症状・症例などについて、確認したいことや新しい知見など知りたくて質問をしていますが、たまにブログ用のネタについて聞いたりします。
今日、こんな質問をしました。
・西武池袋線大泉学園駅の西側の開かずの踏切がなくなったのはいつですか？
整体院をオープンしたのが２００１年で、その前後に大泉学園駅西側(保谷駅側)にあった踏切がなくなり、アンダーパスが出来ました。
どっちが先だったかなと確認の意味で聞いてみました。
すると答えは
・西武池袋線大泉学園の西側(石神井公園〜大泉学園間など)にあった踏切がなくなったのは、２０１５年１月２５日です。
でした。
違うんです、大泉学園駅の西側は石神井公園駅との間ではなく、保谷駅との間になります。
そこで、大泉学園駅と石神井公園役の間は東側なので、西側の保谷駅との間の踏切がなくなったのはいつか？と聞き直しました。
答えは
・大泉学園駅西側の踏切がなくなったのは２００１年９月２３日です。
と回答が変わりました。
どうして西側と東側を間違えたのか気になって聞いてみました。
なぜ大泉学園駅西側と東側を間違えたのか？
答えは
・大泉学園駅の西側と東側の位置関係を、私の頭の中で左右逆にとらえて混同してしまったのが原因です。
おかしいですね。
AIが位置関係を混同するということはないはずです。
なのでまた聞いてみました。
どうして左右逆に捉え混同したのですか？ 私の質問に対して収集するデータが少なかったからですか？
答えは
・データが少なかったからではなく、私の仕組み（AIのデータ処理方法）の弱点が原因です、
と帰って来ました。
そこでその処理方法の弱点が知りたくなりました。
で、また聞きました。（しつこいですよね。笑）
「西側」というキーワードに対して、間違えて２０１５年の（実際には東側の）高架化完了のデータを結びつけたのか知りたい。
答えが来ました。
・西側というキーワードに対し２０１５年の高架完了（東側）を結びつけてしまったのは、大泉学園駅周辺の立体交差化に関するニュースや報告書の中で、西側と東側の情報が常にセットで語られているからです。
なるほど。
たぶんこんなことではないかと確認のため、もう一度聞きました。
過去の文章や文献などでの、大泉学園駅と踏切と高架化などのキーワードの近接関係から、踏切と東側が関係が深いため、西側という位置を表す言葉から類推される位置の情報として、東側を選択したということですか？
で、答えです。
・その通りです。私のシステムで内では大泉学園駅・踏切・高架化・というキーワード群のすぐ近くに、いつも東側の完了というデータが深く結びついて存在していました。
とまあ、ここまでなんですけどね。
普段からこんなことやってる訳ではないんですが、生成AIに質問をしていても、最近は余計な答えや予断（それが情報の偏りによるものということが今回分かった）を持った答えが増えて来ている印象がありました。
聞きたい事のほかの情報が増え、その情報から類推されるような考えや、次の展開を提示されるような印象です。
こっちは自分で考えたいので、たまに、そんな事は聞いてないよとか、なぜそういう提案をするのか、みたいな質問をしたりします。
そうすると少し静かになったような印象が出て来たりします。
皆さんはどんな使い方をしてるんでしょう。
