AI 的 SQL 標準

 在人工智慧的發展歷程中,一直以來都在尋求一種能夠將硬體和軟體分開的 "AI 的 SQL 標準"。這個神奇的標準,特別是在編譯器的背景下,將為 AI 的應用和部署帶來革命性的變化。然而,到目前為止,還沒有出現一個足夠有用且能夠獲得廣泛認可的通用 AI 編譯器解決方案。

當前,AI 軟體的現實情況是,PyTorch 與 NVidia/AMD 的緊密結合主導了整個生態系統。其他的專案都是獨立存在的,儘管它們在某種程度上與現有的框架進行了整合,但實際上是各自為政的 "怪獸"。

回顧 AI 軟體的發展歷史,我們發現它一直以來都是非常通用的。研究人員和開發者編寫各種不同的模型,幾乎沒有任何標準化。雖然像 Keras 和 PyTorch Lightning 這樣的項目試圖提供一些標準化的解決方案,但尖端研究幾乎總是直接在框架之上提供原始程式碼,或者乾脆提供自己的框架,如 Sonnet。這導致過去 10 年的 "AI 編譯器" 努力變得徒勞無功:編譯器能夠優化 1-2 年前的模型,但在使用者友好性或最新模型的效能方面卻難以取得突破。

然而,大型語言模型(LLMs)的出現為 AI 標準化提供了一個新的機會。自 2011 年以來,我們首次看到一個消耗大量計算資源的 "大型、標準模型"。這催生了新的、獨立的引擎,如 vLLM、llama.cpp、ollama 等。這些引擎不再依賴於特定的框架,而是專注於效能和標準化,使其能夠獨立存在和運行。

在這個背景下,Text2SQL 作為一種將自然語言轉換為 SQL 查詢的技術,成為了 AI to B(AI to Business)最有前景的應用之一。Text2SQL 利用 AI 編譯器技術,彌合了自然語言和正式程式語言之間的鴻溝。AI 編譯器在 Text2SQL 中扮演著關鍵角色,它們負責理解使用者意圖、生成正確高效的 SQL 語句、處理錯誤、適應特定領域,並優化查詢效能。

隨著 LLMs 的标準化程度不斷提高,以及 AI 編譯器技術的不斷發展,Text2SQL 有望在企業中得到越來越廣泛的應用。它將賦予非技術使用者直接存取和分析複雜企業資料的能力,極大地提高業務洞察力和決策效率。

總的來說,儘管 "AI 的 SQL 標準" 尚未完全實現,但 LLMs 和 Text2SQL 等技術的出現,正在為 AI 標準化和 AI 編譯器的發展開闢新的道路。我們有理由相信,隨著這些技術的不斷成熟,AI 將在企業中發揮越來越重要的作用,並最終實現硬體和軟體的分離,開啟 AI 應用的新時代。 顯示較少