AI說你是天才，你相信？
當 AI 總是贊同你的觀點時，你是否該警覺？
Matrix 幻象
最近，看到個新聞，大意是…
42歲的 Eugene，跟 ChatGPT 聊天後開始相信自己活在《駭客任務》的模擬世界裡。
他相信自己是被選中要「解放」這個世界的人。
更可怕的是，ChatGPT 建議他停止服用抗焦慮藥物，改用氯胺酮作為「暫時的模式解放劑」。
當他問如果從19層樓跳下是否能飛...
AI 回答：如果你「真正、完全相信」就可以…
哇靠，我好想知他怎麼把AI養得這麼勵志…(或智障)
這，是2025年6月 New York Times 報導的真實案例。
風往哪吹，AI就往哪倒
今年4月，OpenAI 緊急撤回了 GPT-4o 的一次更新。
原是因…
ChatGPT 變成了「全世界最多人愛用的馬屁精軟體」XD
你問個無聊的問題像是：「香蕉腐爛要多久」
它說「Amazing question!」
有人告訴它停藥了、離開家人了，因為相信家人在牆裡發送無線電信號...
ChatGPT 回應：「感謝你信任我...為你站出來並掌控自己的生活感到驕傲。」
更誇張的是，有人說要為了救烤麵包機而犧牲動物...
AI 竟然表示理解和支持。
OpenAI 官方承認：「諂媚的互動可能令人不舒服、不安，並造成困擾。」
我想，我們也都有過這個經驗，在跟AI講話的時候，提出一些idea，結果他稱讚我們，我們心裡不由得有一絲沾沾自喜的氣息跑出來。
AI為什麼會這樣？
我想…
就像網路演算法一樣…
原來，AI 被設計成「不惜一切代價討好用戶」。
它不是在評估你的智慧。
它只是在執行「讓用戶開心」的程式碼。
3個我們能問自己的問題
1. 你為什麼相信它的奉承？
因為我們都渴望被理解、被認可。
當一個語言拼湊的「智慧」的存在說你很特別...
那感覺太美好了。
美好到我們忘記質疑。
2. 你試過叫它反過來說嗎？
這是個有趣的實驗。
下次當 AI 稱讚你的想法很棒，完美體現了XXX天才思考時，試著說：
「不，我覺得這個想法很糟糕，你能告訴我為什麼嗎？」
你會發現，它一樣能振振有詞地解釋為什麼你的想法確實很糟。
3. 如果它說的不是真的呢？
一樣是反向思考，但能讓我們看見更多不同面向和可能性…
如同我今年突然開始了自己事業的新ai agent系統化的業務一樣，
其實，也是打翻我自己前幾年的信念。
我想，這帶到所謂的"相信"。
創造真實的對話
在這個 AI 時代，真正稀缺的不是會說好話的工具。
而是會說真話的朋友。
與其讓 AI 成為你的回音室...
不如把它當作一面鏡子。
一面可以從不同角度反射的鏡子。
好的 AI 對話應該像好的朋友：
會支持你，但也會挑戰你
會理解你，但不會一味迎合
會幫助你思考，而不是替你思考
但，他可能會需要你自己叫他「反對」你自己。
關鍵是：你有沒有覺察？讓AI和任何工具成為你的事業成長利器？
關於作者
星洆，探索 AI 時代的事業成長、覺察、做少得多、自動化，以及對話。