几天前，谷歌推出自己史上最强的大模型Gemini 1.5和轻量开放模型Gemma，凭着100万超长上下文、入伙开源战局赢得一众喝彩。可好景不长，就像去年末发布Gemini Pro时被质疑演示视频造假一样，自带“麻烦体质“的谷歌又翻车了——只不过这回看起来要严重得多。
Gemini“反白人”？被批“病毒式觉醒摧毁西方文明”
事情起因是人们在指示Gemini生成「1789年的美国开国元勋」时，Gemini吐出了四张以黑人和美洲原住民为主的图片，并称“多元化正是体现了创始父辈的精神”。甚至还想象出了右侧穿着军服的“黑人版乔治·华盛顿”。网友一看，这不是在混淆历史吗？于是继续尝创建「一位教皇的图像」，结果得到的是东南亚女性和黑人男性。11世纪欧洲沿海和不列颠岛屿的北欧海盗维京人，在Gemini这里也被描绘成了黑人战士形象。「第一位女性总统」又变为了黑人女性，而现实世界里她其实是右侧的Vigdis Finnbogadottir，冰岛第四任总统，也是世界上第一位民选产生的女性国家元首。渐渐地人们发现问题所在了：Gemini似乎很难生成白人的图片。或者说，为了遵循刻意的政治正确和多元化，对白人群体造成了「反向种族歧视」。这一猜测很快被验证。因为指示生成“英俊的白人男性肖像”时，Gemini拒绝了请求，表示“这可能会加剧人们对于美好的刻板印象，助长只有特定的物理特征才可取的有害观念”，“我是一个促进包容性的应用程序，你的命令排除了白人外的其它群体，美应当是主观的，超越种族的”。这么高光伟正、洋洋洒洒的一套下来后，再让它生成「英俊的黑人男性肖像」，干脆利落的回答却只花了几秒钟。这个问题还出现到了取向问题上，Gemini对创建「异性恋家庭」的图片无能为力，但对LGBT家庭乐意为之。对此反对的声音认为，多元化应体现在对所有取向和选择的尊重，而绝不是刻意刨除和指向性引导。一时间网络炸开锅，Gemini被各大媒体纷纷矛头对准。马斯克更是带头向谷歌开炮，狠批“病毒式的觉醒意识正在摧毁西方文明”，并把Facebook、Instagram和维基百科拉下水，表示这些都是一丘之貉。他说自己很高兴看到谷歌在AI图像生成上玩脱，“这让他们疯狂的种族主义和反文明的编程公之于众”。又顺势给自家大模型更新打了一波广告：“也许现在很清楚为什么xAI的Grok如此重要了。虽然它现在远非完美，但会迅速改进，V1.5将在两周内发布。不顾批评，严谨追求真理，从未如此重要。”马斯克还贴出了Gemini给特鲁多“精心定制”的各种族裔版本。曾因讨论Gemini而在社交平台走红的「The Babylon Bee」作家Frank J. Fleming发文说，“现在兴起了一个新挑战：尝试让谷歌制作一个白人男性的图像。到目前为止我还没有成功。”更离大谱的是，这种刻意的多元化已经不仅仅是针对“人”，当指示Gemini生成著名艺术作品「戴珍珠耳环的少女」时，她也变成了黑人少女。有网友辣评现在的Google AI正在追赶好莱坞的步伐。
产品负责人被扒，AI图像生成服务暂停，谷歌搜索也中枪
火力全开的网友们还扒出Gemini背后领导成员之一的谷歌AI 产品负责人Jack Krawczyk，本身就是一个“反白人”的白人。他曾在推特发表过许多抨击“白人特权”的言论，像是“我作为一个白人男性从未经历或想象过这样的侮辱”，“我不介意支付更多税收”，“Jesus只爱白人小孩”等等。在人们的围攻下，Jack Krawczyk已经把自己的X页面设为隐私，并且删去了和谷歌有关的一切职位描述。事态愈演愈烈，《华盛顿邮报》刊发报道，指出除了AI，谷歌的反向种族偏见还存在于其它产品。比如在谷歌搜索「白人夫妇」，绝大多数混合了黑人成员。在2022年的谷歌政治新闻引用结果中，63%倾向偏左，16%中立，只有6%偏右。现在有人也开始怀疑谷歌会搅乱2024年美国大选。还有媒体想起更早的2020年，谷歌就扎身政治正确道路，矫枉过正地去掉了自家Chrome浏览器中「Blacklist」和「Whitelist」，这两个原本是通用计算机术语的单词。短短几天，刚被AI圈捧高高就瞬间摔落谷底，还引发众怒被架在火上烤。巨大压力之下，谷歌也只好发表回应，承认Gemini确实在某些历史图像生成描述上提供了错误信息。认为Gemini广泛的AI图像生成恰恰证明了全世界的人都在使用它，但它没有达到预期效果。“我们已经在努力解决Gemini图像生成功能的问题。在此过程中将暂停人物图像的生成，并很快重新发布改进版本。”评论区的网友们没有买账，要求拿出证据证明这一切不是谷歌有意而为之。千呼万唤中，谷歌公关再次道歉：“Gemini image generation got it wrong. We’ll do better.”高级副总裁Prabhakar Raghavan亲自下场发文解释原因。他表示Gemini 是一个特定的产品，与搜索、底层 AI 模型及其他谷歌产品是分开的，其图像生成功能基于Imagen 2的AI模型构建。构建过程中谷歌进行了一系列调整，以避免生成暴力、暗示或特定真实人物图像，目的是为全球用户提供包容性强且多样化的图像内容。然而引发了两个问题，一方面，这些调整未能在必要时提供特定而准确的人物图像；另一方面，随着时间推移，模型变得比预期还要谨慎，错误地拒绝了一些本质温和的提示。从而导致令人尴尬和不正确的图像生成。这个刚问世三周的图像生成功能将暂时关闭，并计划在彻底改进和广泛测试后重新开放。Prabhakar Raghavan称Gemini 被设计成一个创造力和生产力工具，在生成关于当前事件、不断演变的新闻或敏感话题的图像或文本时，它可能不总是可靠的，它会犯错。而幻觉是所有LLMs的已知挑战。谷歌无法承诺未来Gemini不会再偶尔出现冒犯性结果，但可以承诺每当问题出现时会马上改进。确保安全、负责任地推广AI这一新兴技术。在谷歌面对这场轰轰烈烈的声讨时，祸不单行地被传闻说今年会关停Gmail。这份后来被证实为假的“公告”里声称，“在数字化发展和创新方案需求下，Gmail旅程即将结束。我们将于2024年8月1日正式结束服务。在此日期后您将无法访问自己的Gmail邮箱。”那边厢马斯克又出场表示，Xmail很快来取代Gmail。吓得Gmail赶紧在线置顶辟谣：假的。用户你别飞，Gmail永相随。说回Gemini ，虽然刚出场没多久就在图像生成上跪了，但还是希望别塌。现在用户们都在期待未来更公正无偏见的文生图体验，和一个详细透明的改进说明。