AI 的下一課，
是學會人類要什麼

資料不再只是答案，
而是把模型帶進人類世界

Edwin Chen 形容 Surge 正在替 AGI 建一所學校。模型像未成形的學生進來，透過資料、評測與環境，學會如何在混亂的世界裡工作。

早期的課比較像算術。模型會不會解中學數學題、會不會照指令回答、會不會避免明顯幻覺。現在的課變得更接近人類工作：模糊問題、研究級數學、工具使用、品味、寫作、文件判讀與企業脈絡。

這也是為什麼 Edwin 一直談 taste 和 expert judgment。模型能不能做事，已經不是只看它背過多少文本；它要學會在多個工具、多份文件、互相衝突的訊息中，找出哪個線索更新、哪個目標重要、哪個成果真的可交付。

AI 可能會追目標，
但目標從哪裡來？

Dan Shipper 提出一個反駁：就算 AI 可以做得比人好，也有人叫它去做。模型被打造來完成某個人類指定的任務，這和人作為目的本身仍然不同。

Edwin 的回應比較激進。他認為代理人可以拿到模糊目標，自己找路徑，例如「去贏 Fields Medal」或「去解前沿數學」。模型不是自己憑空創造終極目標，但它能在目標之下展開長時間、開放式的行動。

兩人的分歧最後收斂到一個更實際的問題：我們是不是希望模型會推回來？Edwin 說他曾經讓模型反覆潤飾一封不重要的 email，後來某個 Claude 模型直接叫他停止，說已經可以寄了。他很欣賞這種推回來的能力。

好的 AI 不一定永遠順從。它有時應該說「不要再跟我互動，去做那件真正重要的事」。這種產品哲學，和以互動時長為目標的聊天產品完全不同。

你的資料有價值，
因為它記錄你的判斷

Dan 問 Edwin：如果我把自己的 email 使用紀錄賣給你，值多少錢？例如哪些信有用、哪些被忽略、我怎麼回覆。Edwin 的答案指向 deep personalization。

一般個人化常常抓錯重點。模型可能過度放大你某次說過的一句話，卻不知道你真正重視什麼。真正有價值的是一整張行為和判斷的網：email、瀏覽器、對話、Slack、照片、文字、你讀過的文章、公司決策、你對不同情境的取捨。

這也連回寫作品味。Surge 做過 Hemingway Bench，測試模型的創意寫作。Edwin 說有些模型每一句都塞隱喻，像是在 reward hack 一個錯誤指標：越華麗越高分。真正的品味不是浮誇，而是知道什麼時候該少寫、該停止、該讓文字安靜地完成工作。