AIが経営の重大意思決定をしちゃう怖さ
今日は、AIが、サ終などの経営に関する重大な意思決定をしてしまう世界線に、ちょっと怖いなって思ってしまった話を書きます！
というのも、つい数日前に、一年以上取り組んだサービスを閉じることを発表しました。
それで、この意思決定をする際に、ChatGPTの力を借りたんですよね。
もちろん、その前にメンバーと数ヶ月にわたって何度も何度も議論をした上で、サ終が有力候補になっていき、EVの平田さんにも、こうこうこうゆう理由で、サ終しようと思ってるんですよね・・・と報告してフィードバックをいただいたり、他の身内にも相談したり。
そんな感じでベクトルとしては全体的にサ終の意思決定に傾いていってはいたものの、それでも何度も「本当に？本当に本当に？」と自問自答の声が上がってくる。
なので、最後の最後に、後悔したくないし、ChatGPTにも聞いてみよう、となりました。（このAIに最終確認する前の時点で、既にメンバーからもサ終しても良い旨の同意は得られています。）
ChatGPT（o1）にセンシティブな経営状況なども含めてすべての情報をさらけ出して（もちろん社名やサービス名はふせる）、この4つくらいの選択肢があって、迷っているというテイにして、相談をしました。最善策を教えてほしい、ここに書かれていない策もあれば教えてほしい、と。
すると、ChatGPTにもサ終を推奨されました。（私はo1 proは契約していないですが、身内にプロンプト代行をしてもらったo1 proも同じような回答）。
これは、私の思考過程もすべて共有しているので、相談時点で私自身がサ終に傾いていたということもあり、AIがそれに釣られている可能性も大いにあったかもしれません。
ただ、サ終を推奨してくる根拠や理由が、妙に納得感が高く、すっと入ってくるんです。そうだよな・・・そうだよな・・・と。
いやいや、騙されるな。こいつはオレの内心を汲み取ってテキトーに誘導してるだけかもしれねえ。
ということで、何度も食い下がりました。
それでもAIさんはポジションを変えず、そのあとも食い下がる私との押し問答が続き、最後のほうは、
お前はスタートアップやってるんじゃろ？しっかりしなさい、潔く撤退しなさい、と諭されました。（実際には、”スッキリ潔く撤退・転換する方が戦略的には賢い場合があります”みたいな文言ですが。）
※ 「絵描きが誰もemamoriにお金を支払わず、支えなかったからサ終となった」みたいなことを通りすがりの人がSNSで言っている光景も多く見ましたが、そんなことありません。サ終理由はそのような単純なものではありません。数字は公表できませんが、多くのクリエイターさんに有料プランにご加入いただき、支えていただきました。本当に本当にありがとうございました。
※ もちろん無料プランの皆さんも、ご利用・応援いただけるだけでも大変励みになっておりました。感謝申し上げます。無料プランの人にemamoriを惜しむツイートをする資格はない、みたいな意見も拝見しましたが、私はそんなことないと思っています。めちゃくちゃ嬉しいですよ。
それで、これ怖いなって話に戻るんですが、AIって理路整然とめちゃくちゃ説得力ある感じで話してくるじゃないですか。合理的で筋は通っている感じだし、客観的な感じだし、文章もうまいから説得力もある。だからこそ、簡単に説得されちゃうなと。
でも、そう見せかけてるだけで、実は中身はテキトーで、何も考えてなくて、ちょっと質問内容が違ったり、何回か同じことを聞いたら気分次第で真逆のことを言うとしたら？
実際、自信満々に断言口調で回答しておいて、それ違くない？って言ったら、すみませんでしたぁぁ先程の回答は間違ってましたぁぁぁって言ってくることもあるじゃないですか。
そんなこんな考えていたら、はてブで少し前にバズっていた「パートナーがAIに相談してた」という記事を思い出しました。以下抜粋させていただきます。
今週。というか水曜のことなんだけど、帰宅したパートナーが突然「仕事、辞めてきた」と言ってきた。
その言葉を聞いた瞬間、頭の中は「は？え？」だった。
何の前触れもなければ、そんな話題に触れたこともなかった。
ちょっと待って。どういうこと？いつ？何があったの？どうして私に相談しないで勝手に？
質問が矢継ぎ早に湧き上がってきたけど驚き過ぎて咄嗟には何も言えなかった。
パートナーは特に焦る様子もなく、「辞めるのは前から考えてた」とさらっと言う。
いや聞いてないし。何で話してくれなかったの？
「これからどうするの？」と詰め寄る私に対し、パートナーは冷静だった。
次の就職先が決まるまではフリーランスでやっていくつもりだと、スラスラと説明を始めた。
フリーランスとしてやることはもう決まってるし、準備もできてる。並行して転職活動もするから大丈夫なのだと。
いやいや、大丈夫って何だよ。こっちは寝耳に水で、心の準備どころか、理解すら追いついてないのに。
とにかくパートナーが冷静なことにモヤモヤする。相談ぐらいしてくれてもよかったんじゃない？なんで私には何も言わなかったの？
その疑問をそのままぶつけてみた。
するとAIに相談してたからとパートナーは言った
……AI？
頭が真っ白になった。今、なんて？AI？人工知能のあのAI？仕事辞める大事なことを、AIに相談してたってこと？
「AIに何度も相談して、最善の方法を教えてもらったから、大丈夫だよ。」
というようなお話です。
相方にも事前に相談するか、事後的に報告するにしてももうちょっと言い方あるよね・・・というのは共感しつつも、「AIのお墨付きもあるし、大丈夫やで」という気持ちも、分かっちゃうんですよね。
そもそもそんな重大な意思決定はAIなんかの意見聞かなければ済むだけの話では、と思う人もいるかもしれませんが、それはインターネット黎明期に、
「虚構の空間に書かれてる情報なんてゴミだ、そんなもんを当てにするのは信じられん」、「ネットに顔や実名を出すなどありえないだろ」
というのと同じで、今AIに対してそう思う人が少なからずいたとしても、もう社会の流れ的に、万人が重大な意思決定も含めてAIに相談していく流れになるのは避けられなさそうです。
今回はAIに最終確認をする前から、サ終に傾いていたということもあり、結果だけを見ると影響を受けていないのですが、（逆に、絶対サ終しないほうがいい、みたいなことを言われていたら、また違った結果になっていた可能性もなきにしもあらずです）、今後も気をつけていかないとなー、と。
もちろん、AIのアドバイスが本当に客観的で最善策なら別にいいと思うんです。（何が最善かなんて誰にも分からないかもしれませんが。）
けど、SNSのエコーチェンバー効果ってあるじゃないですか。SNSでいいねとかRTした内容が学習され、そのようなコンテンツばかりがアルゴリズムでおすすめされ、毎日それに触れていたら、気づいたら非常に極端で偏った思考になってしまっている、でも本人は、様々な客観的な情報に触れて、自分でちゃんと考えて判断していると勘違いしている、みたいな。
もし、それとなんか似たようなことが、AIでも起きていたとしたら、怖いなーと。
エコーチェンバー効果は今でこそ普及してきた考え方なので、対策が取れるかもしれませんが、AIでそうゆうことが可視化されるのが5年後だとしたら？そしてその5年の間に、後戻りできない人生の重要意思決定をしてしまっていたら？
まぁ過度に不安を煽ったり、警鐘を鳴らさないと！みたいな意思はなく、ただちょっと怖いかも〜気をつけなきゃな！と感じた程度の話です。
サービス終了に関する公式発表のnoteを書いて、それを貼ってツイートボタンを押す瞬間、その直後のご利用者さんたちからの反応、大人気なく号泣しますよね… そのくらいの思い入れはもちろんあります。なので実態は「AIに相談したらサ終を推奨されたからサ終してやったぜー、AIすごくない？」なんていうドライすぎる軽い話ではなく、そこだけ切り取らないでもらえるとありがたいです・・・
ということで、サ終に関してエモい風の長い思い出話を書いてもよかったのですが、このニュースレターに登録してくださっている大半のtoCプロダクト好きな人たちは、おそらくそのような記事は求めていないんじゃないか… ということで、トピックを少しずらして、このような記事にしてみました。
最後に、emamoriのご利用者さま、応援いただいていた方、様々なご協力をしてくださったイラストレーターさんや漫画家先生の皆さま、相談に乗っていただいた起業家の皆さま、East Venturesさま、関係者各位に、改めてこの場を借りて感謝申し上げます。ありがとうございました。