不像Claude有一個Context Usage,我從來都不知道ChatGPT我用到哪裡了(我是Pro方案),之前在Sora Pro時也是,它就讓我一直使用,不像Seedance、Kling、Dream Machine...會顯示Credits的消耗,OpenAI沒有。
一方面我覺得Sam Altman很不計較,OpenAI很大方,一方面又覺得我會不會對模型太過嚴苛了(我常常在同一個專案裡,來回修改 20~50 次,不知道燒掉多少tokens)
在構思這次的設計概念時,我給了模型包括Álvaro Siza、Eduardo Souto de Moura、Peter Zumthor等八個名字,邀請他們八位來為花蓮幾個景區服務中心作設計;結果我就看到在Thinking模式的延伸設定下,模型一個網頁又一個網頁的打開、瀏覽、自己劃重點 (我很喜歡展開AI模型的思考頁面,看著它是怎麼想的,我覺得很有趣,也更能有效的互動。)
但這個過程超級久,數個小時過去,它還在一層又一層的研究,試圖確認每位建築師的代表作品、設計語彙、材料策略、空間特徵、是否適合清水斷崖這個基地,這已經不是單純生成圖像,而變成「8 篇建築師風格研究 + 設計轉譯」。
我中止了這項任務,並問它在做什麼,為什麼花了這麼久(雖然我都在旁邊看見了),AI告訴我,它傾向把它當成半研究、半創作、半版權避險的任務處理。它查很久,因為它在找一個安全又合理的作法:既要有風格差異,又不能太像抄作品。
引用它自己的話:「在黑箱裡像一個非常焦慮的助理:打開一堆書、貼滿便利貼、最後你說「算了,我們先不要那麼學術」——然後我才從資料海裡浮上來換氣。」
後來我用抽象設計語彙取代建築師名字,用沉靜量體、柔性邊界、低語般的光...,代替了具體的名字。
LLM現在像油箱不透明的跑車,你知道它會耗油,但不知道現在剩多少。
理想中的語言模型介面,我希望像這樣:
Token Heatmap
設計推理 ███████
網站分析 ███
圖像修改 ████
深度研究 ████████
一眼就知道哪裡最貴。如果在任務交辦前,模型自己還能給出個預估,那就太好了。
Context Capacity
████████░░ 82%
Active Memory
██████░░░░ 61%
Estimated Tokens
487,000
Largest Context Consumer
清水斷崖旅客服務中心
128,000 tokens
因為當 AI 從聊天工具變成工作平台之後,Token 之於 AI,會越來越像 Polygon Count 之於建築視覺化,我們就會開始想知道:
「到底是場景中哪一個3d model,把我的 FPS 吃掉了?」。
而且更麻煩的是,Token 不只是「我字面上的任務」,還包含了對話歷史、隱藏推理、工具呼叫、JSON 結構...
「輕描淡寫的起因 vs. 巨大的運算深淵」
ChatGPT給出了感人的檢討:
你剛剛只是交代一頁便條紙;
但我入場時,已經把整座圖書館的燈都打開了。






留言
張貼留言
在此輸入您的留言,以及使用電子郵件訂閱後續意見至您的信箱