IBM and Groq Partner to Accelerate Enterprise AI Deployment with Speed and Scale | IBM Stock News

合作旨在通過 IBM watsonx Orchestrate 和 Groq 技術提供更快速的智能 AI 能力，使企業客户能夠立即對複雜工作流程採取行動

, /PRNewswire/ -- IBM (NYSE: IBM) 和 Groq 今天宣佈了一項戰略市場推廣和技術合作夥伴關係，旨在為客户提供對 Groq 推理技術 GroqCloud 的即時訪問，基於 watsonx Orchestrate，為客户提供高速 AI 推理能力，以幫助加速智能 AI 部署。作為合作的一部分，Groq 和 IBM 計劃將 RedHat 開源 vLLM 技術與 Groq 的 LPU 架構進行集成和增強。IBM Granite 模型也計劃在 GroqCloud 上支持 IBM 客户。

企業在將 AI 代理從試點轉向生產時，仍面臨速度、成本和可靠性方面的挑戰，尤其是在醫療、金融、政府、零售和製造等關鍵行業。此次合作將 Groq 的推理速度、成本效率和對最新開源模型的訪問與 IBM 的智能 AI 編排相結合，以提供幫助企業擴展所需的基礎設施。

憑藉其定製的 LPU，GroqCloud 提供比傳統 GPU 系統快 5 倍以上且更具成本效益的推理。結果是即使在全球範圍內擴展工作負載時，延遲始終較低且性能可靠。這對於受監管行業中的智能 AI 尤為強大。

例如，IBM 的醫療客户同時接收成千上萬的複雜患者問題。藉助 Groq，IBM 的 AI 代理可以實時分析信息，並立即提供準確答案，以提升客户體驗並使組織能夠做出更快、更明智的決策。

該技術也正在非受監管行業中應用。IBM 在零售和消費品領域的客户正在使用 Groq 為人力資源代理提供支持，以幫助增強人力資源流程的自動化並提高員工生產力。

"許多大型企業在實驗時有多種 AI 推理選項，但當他們想要投入生產時，必須確保複雜工作流程能夠成功部署，以確保高質量的體驗，" IBM 軟件高級副總裁兼首席商業官 Rob Thomas 説。"我們與 Groq 的合作強調了 IBM 致力於為客户提供最先進技術以實現 AI 部署並推動商業價值的承諾。"

"憑藉 Groq 的速度和 IBM 的企業專業知識，我們正在為商業實現智能 AI。我們共同使組織能夠釋放 AI 驅動響應的全部潛力，並具備擴展所需的性能，" Groq 首席執行官兼創始人 Jonathan Ross 説。"除了速度和韌性，這一合作關係還旨在改變企業與 AI 的合作方式，從實驗轉向全企業的信心採用，並開啓 AI 能夠即時行動和持續學習的新模式。"

IBM 將立即提供對 GroqCloud 能力的訪問，聯合團隊將專注於為 IBM 客户提供以下能力，包括：

• 高速和高性能推理 釋放 AI 模型和智能 AI 的全部潛力，推動客户關懷、員工支持和生產力提升等用例。
• 以安全和隱私為中心的 AI 部署，旨在支持最嚴格的監管和安全要求，確保複雜工作流程的有效執行。
• 與 IBM 的智能產品無縫集成，watsonx Orchestrate，為客户提供靈活性，以採用針對不同用例量身定製的智能模式。

該合作關係還計劃將 RedHat 開源 vLLM 技術與 Groq 的 LPU 架構進行集成和增強，以提供開發人員在推理過程中面臨的常見 AI 挑戰的不同解決方案。該解決方案預計將使 watsonx 能夠以熟悉的方式利用能力，並讓客户在加速推理的同時保持在其首選工具中。這一集成將解決 AI 開發人員的關鍵需求，包括推理編排、負載平衡和硬件加速，最終簡化推理過程。

IBM 和 Groq 一起提供增強的訪問，充分發揮企業 AI 的潛力，快速、智能，併為現實世界的影響而構建。

關於 IBM 和 Groq 的未來方向和意圖的聲明可能會在沒有通知的情況下更改或撤回，僅代表目標和目標。

關於 IBM

IBM 是全球混合雲和 AI 的領先提供商，以及諮詢專業知識。我們幫助來自 175 個國家的客户利用數據洞察，簡化業務流程，降低成本，並在其行業中獲得競爭優勢。成千上萬的政府和企業實體在金融服務、電信和醫療等關鍵基礎設施領域依賴 IBM 的混合雲平台和 Red Hat OpenShift，以快速、高效和安全地實現數字化轉型。IBM 在 AI、量子計算、行業特定雲解決方案和諮詢方面的突破性創新為我們的客户提供開放和靈活的選擇。所有這些都得益於 IBM 長期以來對信任、透明、責任、包容性和服務的承諾。有關更多信息，請訪問 www.ibm.com。

關於 Groq Groq 是為 AI 提供所需速度和成本的推理基礎設施。Groq 於 2016 年成立，開發了 LPU 和 GroqCloud，以使計算更快、更實惠。如今，Groq 得到了全球超過兩百萬開發者和團隊的信任，是美國 AI 堆棧的核心部分。

媒體聯繫人：

Elizabeth Brophy

elizabeth.brophy@ibm.com

來源 IBM