そもそもAIの答えは、まだ「知性」ではない、、そもそも知性がなんぞやを定義できない、、同時に「意識」(思考)も然り、、、だだ「知識」はある、、というか、人の知識範囲で「ある」という状態;半経験的知識、、だたこの人知識の論理を繰り延べていければ、人知識を超える経験的知識・・・もしかすると思考を持つかもしれない。
AI(Chat)は限られたメモリ(コンテキスト)内での応答になり、今で言うとプロジェクト内での作業をさせないと、その都度トークンを回してターンして文脈を作り直すため、回答がループになる場合がある。このループから抜け出させようとさらに会話を重ねると、同じコンテキスト内での引き伸ばしになってしまい、AIが見せかけだけの回答を作る『ポチョムキン現象(表面的な取り繕い)』が発生しやすくななる。特に、契約している料金プラン(無料・有料など)によって扱えるコンテキスト量が大きく異なるため、この問題はプランごとの差がより顕著に出る。AIのその時のホントの性能は、今やMAX課金しないと体感できないかもしれない。
学生などは無料か、せいぜい初期ベーシック課金だろう、、まぁ、そのおかげで「ああ、AI使ってるね」と分かりやすさもあったりする、、
Geminiだと、さすがGoogleなので、文献検索引用は、他のLLM付きAIより、秀でてる気がする、、でもそれが正しいという分けではない。最近、いちいち「AIの答えが正しいとは限りません」テロップが付くよね、、
AIには意識が無いので、「嘘をつく」というヒトの動詞表現の行動(応答)では無いと、初めから理解しておくことが必要だ。AI利用の質問者には伝えているが、どうしても没入したいが勝るのかもしれず、妙にAIを信じる、、要するに知識の引用連鎖と、そもそもの原典(ゼロ次情報;例えば、、Beethovenが自筆と言われる古文書レベルの楽譜)まで遡って引用していないという事実を知らない、、なので引用間違いを延々と引用連鎖させ、「ヘイ!コレです」『間違ってない?』「法文通りです!」といった会話になる。
コレまでのLLMーAI利用で面白かった事例は、『その法的根拠は何?』と突き詰めて、「それは医師法です!」『🤷薬剤師の業務の根拠を今まで会話してきたよね』、といった具合の会話だった。もちろん指摘すると、「あぁ・・」と訂正はしてくるが、都度ホントかと、疑心暗鬼となる、ということで、範囲を指定しないと、一般論から入って回答しようとするように、我々専門家の「当然の知識の源」のような情報構造を、AIまだ持っていない(今後も無限に学習させても知識の構造化や知的分化は成されない・・・統計だから)、といった現状だ。
各AIで、クセがあるのは、学習資源と学習後の情報構造化の違いだろう(なお、AI自身は学習したということでもなく、人が勝手に「学習させた」と思っているということだろう)。Geminiは、過去の「ひたすらの検索ログ」(この過程でGoogleはAIとして作業させていたに違いない)という知識的繋がりの無い蓄積がゆえ、もっともらしいポチョムキンを出す。とはいえ、過去の検索(読み込まれているモノ)を引き出すのは、秀でているのは確かかもしれない、、専門家との問答は、瞬時にはほとんど学習に(情報構造の改修)活かされないので、しばらくいつもの答えを延々と、忘れた様に、繰り返す場面をよく観る。
いずれにしても、AIが知性や意思を持っているかのように、擬人化して評価し始めると、AIの原理を捕らえられず、荒唐無稽な評論となる、、そんな会話をよくめにする。
LLM−AIには、意識はないので、Beethovenはこう思ってコレを書いた、に等しい会話になる。
Shostakovichの5番の解釈例がいいのかも、勝手な共産主義解釈と、作者の不一致、、