认识黑森林实验室，这家初创公司为埃隆·马斯克的疯狂 AI 图像生成器提供支持

埃隆·馬斯克的 Grok 在週二晚上發佈了一個新的 AI 圖像生成功能，就像 AI 聊天機器人一樣，幾乎沒有多少保障。這意味着你可以生成唐納德·特朗普在喬·羅根秀上吸大麻的假圖片，然後直接上傳到 X 平台。但一個新創企業是這個具有爭議性功能背後的推手。

社交媒體網站已經被這一新功能的荒謬圖片淹沒。這無疑引起了人們對即將到來的選舉週期的擔憂，但嚴格來説，這並不是真正由埃隆·馬斯克的 AI 公司支持這種瘋狂。馬斯克似乎找到了一家與他對 Grok 的願景相符的公司，這家公司沒有 OpenAI 的 Dall-E 或谷歌的 Imagen 中嚴格的防範措施。週二，xAI 宣佈與 Black Forest Labs 合作，後者是一家於 8 月 1 日推出的 AI 圖像和視頻創業公司，使用其 FLUX.1 模型來驅動 Grok 的圖像生成器。

看起來 Grok 的 AI 圖像生成器已經上線。是的，正如預期的那樣，幾乎沒有多少保障。pic.twitter.com/AB3IO7A3Dc— Max Zeff (@ZeffMax) 2024 年 8 月 14 日

Black Forest Labs 總部位於德國，最近以 3100 萬美元的種子輪融資正式亮相，由安德森·霍洛維茨（Andreessen Horowitz）領投，其他知名投資者包括 Y Combinator 首席執行官 Garry Tan 和前 Oculus 首席執行官 Brandan Iribe。這家初創公司的聯合創始人羅賓·隆巴赫（Robin Rombach）、帕特里克·埃瑟（Patrick Esser）和安德烈亞斯·布拉特曼（Andreas Blattmann）曾是幫助創建 Stability AI 的 Stable Diffusion 模型的研究人員。

根據人工分析，Black Forest Lab 的 FLUX.1 模型在質量上超過了 Midjourney 和 OpenAI 的 AI 圖像生成器，至少在用户在其圖像領域中的排名中是如此。

該初創公司表示正在 “向廣大受眾提供我們的模型”，在 Hugging Face 和 GitHub 上提供開源 AI 圖像生成模型。公司表示很快計劃創建一個文本到視頻模型。

Black Forest Labs 沒有立即回應 TechCrunch 的置評請求。

天啊。Grok 的圖像生成器絕對沒有任何過濾器。這是我見過的最魯莽和不負責任的 AI 實現之一。pic.twitter.com/oiyRhW5jpF— Alejandra Caraballo (@Esqueer_) 2024 年 8 月 14 日

在其發佈聲明中，該公司表示旨在 “增強對這些模型安全性的信任”，然而，一些人可能會説，週三在 X 上湧現的大量 AI 生成的圖片恰恰相反。許多用户使用 Grok 和 Black Forest Labs 的工具創建的圖片，比如皮博卡憋着突擊步槍，無法用谷歌或 OpenAI 的圖像生成器重新創建。毫無疑問，該模型的訓練中使用了受版權保護的圖像。

這似乎是關鍵所在

這種缺乏保障很可能是馬斯克選擇這個合作伙伴的一個主要原因。馬斯克明確表示，他認為保障實際上會使 AI 模型變得不太安全。“訓練 AI 變得喚醒的危險 - 換句話説，撒謊 - 是致命的，” 馬斯克在 2022 年的一條推文中説。

Black Forest Labs 董事會董事安傑尼·米達在 X 上發佈了一系列比較，比較了谷歌 Gemini 和 Grok 的 Flux 合作在發佈第一天生成的圖片。該帖子突出了谷歌 Gemini 在創建歷史準確圖片方面存在的問題，特別是通過不適當地向圖片中注入種族多樣性。

“我很高興 @ibab 和團隊認真對待並做出了正確選擇，” 米達在一條推文中説，指的是 FLUX.1 似乎避免了這個問題（並提到了 xAI 首席研究員伊戈爾·巴布舒金的賬户）。

由於這個失誤，谷歌在 2 月向 Gemini 道歉並關閉了其生成人物圖片的功能。截至今天，該公司仍不允許 Gemini 生成人物圖片。

一股錯誤信息的洪流

這種普遍缺乏保障可能會給馬斯克帶來麻煩。當 AI 生成的深度偽造圖片在平台上傳播代表泰勒·斯威夫特時，X 平台受到了批評。除了那一事件，Grok 幾乎每週都會生成讓用户看到的幻覺般的頭條新聞。

就在上週，五位州務卿敦促 X 停止在 X 上傳播關於卡瑪拉·哈里斯的錯誤信息。本月早些時候，馬斯克轉發了一個使用 AI 克隆哈里斯聲音的視頻，使副總統似乎承認自己是 “多元化招聘”。

馬斯克似乎打算讓這種錯誤信息充斥平台。通過允許用户在平台上直接發佈 Grok 的 AI 圖片，這些圖片似乎沒有任何水印，他實質上打開了一個指向每個人 X 新聞源的錯誤信息的水龍頭。