全文共2172字，預計學習時長6分鐘
圖源：unsplash
早在2017年就曾有研究人員問道：「到2040年人工智慧會寫出大部分代碼嗎？」如今，OpenAI的GPT-3已被beta測試人員使用，已經可以用任何語言編寫代碼了，機器主導的編碼幾乎就在我們眼前。
GPT-3已接受了數千億字或者甚至是整個網際網路的訓練，這就是為什麼它可以用CSS、JSX、Python編碼。GPT-3不需要對多種語言任務進行訓練，其訓練數據已包羅萬象。反而是當給定瑣碎的指示時，網絡會將自己限制在手頭的任務上。
GPT-n的演變
GPT通過將監督學習與無監督的預訓練（或使用無監督步驟的參數作為監督的起點）配對，在語言任務中達到了最先進的水平。與其後繼者相比，GPT很小，它只在幾千本書和一台8GPU機器上進行訓練。
GPT-2大幅擴大了規模，包含了10倍的參數，並提供了超過10倍的訓練數據。儘管如此，數據集仍然相對有限，它被專門訓練為「來自Reddit的連結，它至少收到了3個karma。」GPT-2被描述為一個「變色龍一樣」的合成文本生成器，但它不像下游任務中的問答總結或翻譯一樣是最先進的。
圖源：unsplash
GPT-3在人工智慧領域中是里程碑式的存在，在一系列的任務中達到了最先進的水平，其主要突破是不再需要對特定任務進行微調。就尺寸而言，其模型再一次大幅擴大，達到1750億個參數，是其上一代的116倍。
GPT-3根本不需要訓練（一個零次學習的例子），其本來就令人印象深刻的性能在一次或兩次學習之後黯然失色。
發展或滅亡
現在情況是：Beta測試人員正在使用GPT-3生成工作代碼，這需要一些瑣碎的知識。從按鈕到數據表，甚至重建谷歌的主頁，這些都可以通過零次學習完成。
除了人工智慧的快速發展，其他兩個主要的技術趨勢正在加劇這樣一個現實，未來編程工作將變得不再是「鐵飯碗」：無代碼和自動機器學習。
無代碼分析：讓每個人都成為數據科學家
無代碼是指使任何人更容易構建新產品的可視化工具，無論是網站、設計、數據分析還是模型。Word Press、Wix和Shopify是典型的無代碼工具，這使數百萬人不再需要雇用開發人員或設計師，自己就能夠做事情。
第二種趨勢是AutoML，即自動機器學習，這大大縮短了人工智慧生產所需的時間。
AutoML會成為數據科學家的終結嗎？
圖源：unsplash
類似Apteo的工具順應了這些趨勢，使人們無需具備編碼技能都能夠部署人工智慧模型。GPT-3則將引發無代碼和自動機器學習的又一波浪潮，許多潛在的僱主會選擇這些工具，而不是僱傭昂貴的程式設計師。
當然，技術含量最低的程式設計師將最先離開，而專家就像在任何領域一樣，將享受更長時間的工作保障。
不僅僅是代碼——GPT-3已應用於任何語言任務
要將GPT-3引導到特定的語言任務，只需向它提供希望實現的示例。你可以直接用GPT-3寫代碼，也可以直接寫詩歌、音樂媒體評論或任何其他文本。
例如，如果想生成一篇新聞文章，可以輸入一個正標題，如「聯合衛理公會同意歷史分裂」和一個副標題，如「那些反對同性婚姻的人將形成自己的派別」。
輸入這些，GPT-3產生以下結果：
華盛頓郵報稱，經過兩天的激烈辯論，聯合衛理公會已經同意了這一歷史性的分裂——這一分裂預計將以創建一個新的教派結束，這個教派 「在神學和社會方面都是保守的」。大多數出席5月教會年度大會的代表投票支持加強禁止LGBTQ神職人員的任命並制定新的規則，將對主持同性婚禮的神職人員「予以處罰」。但是那些反對這些措施的人有一個新計劃：他們稱將在2020年形成一個單獨的教派，其教會稱為基督教衛理公會教派……
這段文字騙過了88%的人，只有12%的人認為這是由人工智慧寫的。
就像人類一樣，GPT-3還可以根據例句學習生詞。例如，給定語境：「Burringo」是一輛加速速度非常快的汽車。GPT-3的輸出是：在我們的車庫裡有一輛Burringo，我父親每天開它去上班。
這些結果令人印象極其深刻。人工智慧正在不可避免的進化當中，對當前性能的任何批評都將化為其快速疊代中的泡影。
不僅僅是語言——GPT應用於圖像
GPT不僅可以寫代碼和編寫任何東西，還可以生成圖像。相同的模型體系結構可以在像素序列而非文本編碼上進行訓練，從而生成新的圖像而非文本。事實上，它非常擅長這樣做，甚至可以和頂級CNN競爭。
圖源：unsplash
這表明，GPT（及其後繼者）不僅有可能在某一天取代編碼器，其多功能性甚至使其具有取代整個行業的潛力。
GPT-3令人驚嘆的性能讓許多人相信我們正前所未有地接近超級智能，或者至少，人工智慧生成的代碼比我們想像的更接近，它能產生有創造性、有洞察力、有深度甚至是美麗的內容，未來已來。
留言點贊關注
我們一起分享AI學習與發展的乾貨
如轉載，請後台留言，遵守轉載規範