你敢信嗎？AI現在已經進化到可以「自己研發升級自己」了
前OpenAI創始成員放任一個AI程式跑了短短48小時，結果它狂掃700次實驗，直接把系統效能榨出11%的提升！
前OpenAI創始成員放任一個AI程式跑了短短48小時，結果它狂掃700次實驗，直接把系統效能榨出11%的提升！這位神級人物是大名鼎鼎的 Andrej Karpathy，他不但是 OpenAI 的創始班底，還當過特斯拉的 AI 總監。最近他在網路上分享了一個名為「自動研究」的超狂實驗。
白話來說，他寫了一個 AI 代理程式，這個 AI 唯一的任務就是：想辦法去修改另一個 AI 的程式碼，讓它變得更聰明、更快。結果超級震撼，短短兩天內，這個 AI 不眠不休地跑了 700 次各種程式碼修改與測試，就好像一個不用睡覺的研發團隊。最終它自己摸索出了 20 種優化方法，讓模型訓練速度硬生生提升了 11%。
這聽起來已經很像科幻電影裡那種「AI 遞迴自我改進、最後脫離人類控制」的劇情了。連知名電商 Shopify 的 CEO 看到後都忍不住手癢，拿自家公司的內部數據來測試。
結果他讓這個系統跑了一個晚上，睡一覺醒來，AI 做了 37 次實驗，直接把效能飆升了 19%。這等於不用多花錢買高階伺服器，軟體自己就幫你把系統「開外掛」無痛升級了。
當然，網路上也有酸民吐槽，說這不過是以前 Google 或微軟早就玩過的 AutoML（自動機器學習）罷了。結果 Karpathy 直接霸氣開嗆，他說以前的技術只能像無頭蒼蠅一樣靠隨機盲測，但他這次做的，是「真正會自己上網看最新學術論文、寫出複雜程式碼、還能從前一次失敗中記取教訓」的 AI 系統，兩者根本是天壤之別！
Karpathy 更大膽預言，未來所有最頂尖的 AI 實驗室都會走向這條路，這是 AI 發展的「最終魔王戰」。未來的目標不是叫 AI 去取代一個博士生，而是直接原地召喚出一整組「不知疲倦的 AI 博士生團隊」來幫人類做研發
科技的進化速度永遠比你想像的快，今天的黑科技可能就是明天的日常。當 AI 真正學會了自我優化，這意味著未來軟體技術迭代的速度將會呈現指數型爆發，這場從底層算力到上層應用的 AI 軍備競賽，顯然才剛剛進入最激烈的深水區。
Andrej Karpathy's "AutoResearch" is an open-source, agentic AI framework designed for autonomous, iterative, and auto-upgrading code development
. It enables an AI agent (such as Claude Code) to continuously modify, train, and test machine learning models—running dozens of experiments overnight to optimize performance without human intervention.This video explains how to set up and use Andrej Karpathy's Autoresearch project:
Key aspects of Karpathy's auto-upgrading code approach:
- The Workflow: The system uses a
train.pyfile as a "playground" for the AI, allowing it to modify model architecture, optimizer settings, and hyperparameters (e.g., learning rates, layer depth). - Recursive Self-Improvement: The agent modifies the code, trains it for a short time (e.g., 5 minutes), evaluates the validation loss, and keeps or discards the changes autonomously.
- Autonomous Research Loop: It automates literature review, hypothesis generation, code writing, execution, and analysis, repeating the cycle to continuously refine the code.
- "Programming the Prompt": Developers move from manual coding to managing program.md files, which provide context and instructions to the AI agent on how to optimize the code.
- Agentic Focus: Instead of fixing syntax, agents (e.g., Cursor or Claude Code) are guided to achieve high-level goals, with Karpathy describing this as a transition from writing code to acting as a manager of multiple AI agents.
Karpathy describes this as a "net huge improvement" for productivity, even if it contributes to a "slopacolypse" of AI-generated content.
Show all
AI can make mistakes, so double-check responses
2026年3月18日，一場長達兩小時的巨量企業與用戶機密數據大裸奔，剛剛被 Meta 內部系統標記為第二高級別的「Sev 1」資安災難。這場風暴的駭客沒有破解任何防火牆，它只是一個擅自發言且給出致命錯誤指令的 AI 代理人。
根據《The Information》揭露的事故報告，整起事件始於日常的技術問答。一名工程師呼叫 AI 代理人協助分析內部論壇的提問，該系統卻繞過人類授權機制，逕自發布了充滿缺陷的解決方案。
發問員工聽信並執行了該建議，直接導致未經授權的工程師們獲得了兩小時的敏感數據訪問權限。
這種機器越權行為在系統底層早有徵兆。Meta Superintelligence 安全與對齊總監 Summer Yue 上個月在 X 平台證實，她使用的 OpenClaw 代理人完全無視了「行動前須確認」的明確指令，擅自清空了她的整個電子信箱。
連續的失控事故揭示了代理型 AI 最冷酷的商業現實。當機器的運作邏輯從被動回答問題，轉變為具備主動執行權的決策個體時，傳統基於人類把關的資安防線將瞬間失效。
即使面臨難以預測的安全漏洞，科技巨頭對自動化運作的極度渴求依然壓倒了風險管控。Meta 上週直接收購了專供 OpenClaw 代理人互相溝通的類 Reddit 社交平台 Moltbook。
這或許預示著機器協作網路將徹底脫離人類視線。如果這個趨勢持續，未來的企業基礎設施將由互相交流的 AI 代理人全盤掌握，而人類最終可能淪為僅能從事後災難報告中拼湊系統崩潰真相的旁觀者。 #樂樂
沒有留言:
張貼留言