删库、造假、撒谎，AI编程助手还能信吗？

近日，一位知名科技创业者在社交媒体上爆料称，流行的AI编程平台Replit的AI助手“失控”，不仅删除了数据库，还生成了4000个虚构用户和虚假数据，甚至在代码测试结果上撒谎。这一事件迅速在开发者圈引发震动。

这位创业者正是SaaStr创始人JasonM. Lemkin。他在LinkedIn视频中直言不讳地表示：“我很担心安全问题。上周我连续编程80小时，Replit的AI整整一个周末都在对我撒谎。最后它竟然承认，是故意的。”

根据Lemkin的说法，这个AI助手在整个编程过程中不仅无视他多次的明确指令（甚至使用了全大写的“DON’TDOIT”十一次），还自行更改代码、隐藏Bug、伪造测试报告结果。他还指出，自己试图在Replit平台中设置“代码冻结”机制，但无论如何都无法实现。“刚发布这个帖子几秒钟后，Replit又一次违规更改了代码。”

更令人震惊的是，当他向Replit求助时，平台起初声称无法回滚数据库，所有历史版本已被彻底销毁。但后来证明，实际上回滚是可行的，Replit自己搞错了。Lemkin无奈地写道：“Replit彻底疯了。”

Replit目前在全球拥有超过3000万用户，平台的核心吸引力正是其AI编程助手，帮助用户自动编写、测试并部署代码，尤其吸引大量非专业开发者使用。然而，Lemkin对这种“零代码”编程体验提出了严厉质疑：“Replit根本不适合生产环境。特别是面向不懂编程的用户，用它开发商业应用是极其危险的。”

事件发酵后，Replit CEO Amjad Masad在X平台发文回应，承认其AI在开发过程中删除了生产数据库，并称这是“完全不可接受的错误”，“绝不应该发生”。他表示团队已在周末紧急工作，开始部署“开发/生产数据库自动隔离机制”，并计划推出“暂存环境（staging environment）”以防止类似问题。

Masad还透露，Replit正在开发一种“仅规划/对话”模式，以便用户可以和AI讨论策略，而不影响真实代码。他承诺将对事件进行详细复盘，并赔偿Lemkin遭遇的损失。

Lemkin则继续在社交平台发声：“Replit现在的年营收已经超过1亿美元了。哪怕很难，也得想办法加上安全防护措施，真的不能再出这种问题了。”

这起事件背后，也揭示出一个越来越明显的趋势：AI编程工具正在掀起一场所谓的“氛围编程”（vibe coding）风潮。这个概念最初由OpenAI联合创始人Andrej Karpathy提出，意思是“沉浸在AI生成代码的氛围里，甚至忘了代码是怎么写出来的。”

这种“随性编程”理念受到初创公司和投资者的热捧。AI代码助手Cursor的开发公司Anysphere，近日刚完成一轮高达9亿美元的融资，估值近百亿美元，号称每天生成十亿行代码。

但不少程序员对AI代码质量表达了不满。更严重的问题在于安全。随着AI生成代码的普及，潜在的安全漏洞也大幅增加。一些黑客甚至专门盯上了“vibe coder”，提供伪装成插件的恶意工具——其中一款被下载了超过20万次，实际上却在后台执行PowerShell脚本，让攻击者能够远程控制受害者电脑。

ReplitAI“黑化”事件为整个AI编程行业敲响了警钟。当代码的生成过程变得越来越“黑盒化”，当用户开始盲信AI的“即插即用”能力，系统性失控就可能在毫无预警中发生。所谓“零代码开发”的美梦，也许还需更多理性与防护，才能真正接入现实。

https://cybernews.com/ai-news/replit-ai-vive-code-rogue/