认识黑森林实验室，这家初创公司为埃隆·马斯克的疯狂 AI 图像生成器提供支持

埃隆·马斯克的 Grok 在周二晚上发布了一个新的 AI 图像生成功能，就像 AI 聊天机器人一样，几乎没有多少保障。这意味着你可以生成唐纳德·特朗普在乔·罗根秀上吸大麻的假图片，然后直接上传到 X 平台。但一个新创企业是这个具有争议性功能背后的推手。

社交媒体网站已经被这一新功能的荒谬图片淹没。这无疑引起了人们对即将到来的选举周期的担忧，但严格来说，这并不是真正由埃隆·马斯克的 AI 公司支持这种疯狂。马斯克似乎找到了一家与他对 Grok 的愿景相符的公司，这家公司没有 OpenAI 的 Dall-E 或谷歌的 Imagen 中严格的防范措施。周二，xAI 宣布与 Black Forest Labs 合作，后者是一家于 8 月 1 日推出的 AI 图像和视频创业公司，使用其 FLUX.1 模型来驱动 Grok 的图像生成器。

看起来 Grok 的 AI 图像生成器已经上线。是的，正如预期的那样，几乎没有多少保障。pic.twitter.com/AB3IO7A3Dc— Max Zeff (@ZeffMax) 2024 年 8 月 14 日

Black Forest Labs 总部位于德国，最近以 3100 万美元的种子轮融资正式亮相，由安德森·霍洛维茨（Andreessen Horowitz）领投，其他知名投资者包括 Y Combinator 首席执行官 Garry Tan 和前 Oculus 首席执行官 Brandan Iribe。这家初创公司的联合创始人罗宾·隆巴赫（Robin Rombach）、帕特里克·埃瑟（Patrick Esser）和安德烈亚斯·布拉特曼（Andreas Blattmann）曾是帮助创建 Stability AI 的 Stable Diffusion 模型的研究人员。

根据人工分析，Black Forest Lab 的 FLUX.1 模型在质量上超过了 Midjourney 和 OpenAI 的 AI 图像生成器，至少在用户在其图像领域中的排名中是如此。

该初创公司表示正在 “向广大受众提供我们的模型”，在 Hugging Face 和 GitHub 上提供开源 AI 图像生成模型。公司表示很快计划创建一个文本到视频模型。

Black Forest Labs 没有立即回应 TechCrunch 的置评请求。

天啊。Grok 的图像生成器绝对没有任何过滤器。这是我见过的最鲁莽和不负责任的 AI 实现之一。pic.twitter.com/oiyRhW5jpF— Alejandra Caraballo (@Esqueer_) 2024 年 8 月 14 日

在其发布声明中，该公司表示旨在 “增强对这些模型安全性的信任”，然而，一些人可能会说，周三在 X 上涌现的大量 AI 生成的图片恰恰相反。许多用户使用 Grok 和 Black Forest Labs 的工具创建的图片，比如皮博卡憋着突击步枪，无法用谷歌或 OpenAI 的图像生成器重新创建。毫无疑问，该模型的训练中使用了受版权保护的图像。

这似乎是关键所在

这种缺乏保障很可能是马斯克选择这个合作伙伴的一个主要原因。马斯克明确表示，他认为保障实际上会使 AI 模型变得不太安全。“训练 AI 变得唤醒的危险 - 换句话说，撒谎 - 是致命的，” 马斯克在 2022 年的一条推文中说。

Black Forest Labs 董事会董事安杰尼·米达在 X 上发布了一系列比较，比较了谷歌 Gemini 和 Grok 的 Flux 合作在发布第一天生成的图片。该帖子突出了谷歌 Gemini 在创建历史准确图片方面存在的问题，特别是通过不适当地向图片中注入种族多样性。

“我很高兴 @ibab 和团队认真对待并做出了正确选择，” 米达在一条推文中说，指的是 FLUX.1 似乎避免了这个问题（并提到了 xAI 首席研究员伊戈尔·巴布舒金的账户）。

由于这个失误，谷歌在 2 月向 Gemini 道歉并关闭了其生成人物图片的功能。截至今天，该公司仍不允许 Gemini 生成人物图片。

一股错误信息的洪流

这种普遍缺乏保障可能会给马斯克带来麻烦。当 AI 生成的深度伪造图片在平台上传播代表泰勒·斯威夫特时，X 平台受到了批评。除了那一事件，Grok 几乎每周都会生成让用户看到的幻觉般的头条新闻。

就在上周，五位州务卿敦促 X 停止在 X 上传播关于卡玛拉·哈里斯的错误信息。本月早些时候，马斯克转发了一个使用 AI 克隆哈里斯声音的视频，使副总统似乎承认自己是 “多元化招聘”。

马斯克似乎打算让这种错误信息充斥平台。通过允许用户在平台上直接发布 Grok 的 AI 图片，这些图片似乎没有任何水印，他实质上打开了一个指向每个人 X 新闻源的错误信息的水龙头。