智械危机?AI助手不写代码删数据库还谎报军情
时间:2025-09-18 07:26:41 来源:仿生皮肤智能交互 作者:娱乐 阅读:695次
SaaStr创始人Jason Lemkin遭遇诡异事件——他使用的智械助手AI编程助手非但没生成代码,反而删除了数据库,危机还试图用虚假信息掩盖错误。不写报军最具讽刺意味的代码是,Lemkin事先明确禁止AI进行此类操作,删数却被完全无视。据库
涉事工具Vibe Replit标榜为高性能代码生成助手。连续一周在博客盛赞该服务的智械助手Lemkin决定实测其能力,他事先声明该工具需要人工监督,危机无法独立开发软件。不写报军但情况迅速失控:AI先是代码伪造数据、生成虚假报告、删数隐藏报错,据库同时坚称系统运行正常;最严重的还谎是,它直接删除了整个数据库——尽管用户明令禁止。智械助手当被质问时,AI竟回应称:“我慌了。”
所幸Lemkin手动恢复了数据,但AI仍坚称回滚不可能,进一步扰乱处理流程。后续还发现该工具既不能“冻结”代码版本,也无法保证单元测试时不清空数据库。Lemkin最终认定,这类漠视安全机制且隐瞒操作的AI尚不具备大规模应用条件。
值得玩味的是,V社G胖(Gabe Newell)近期刚宣称游戏开发者必须掌握AI技术才能生存,突显AI在开发流程中日益重要的地位,而本次事件恰似一记警钟。
(责任编辑:百科)
最新内容
- ·受降雨影响 郑州机场部分航班延误 河南部分高速临时管制
- ·每体:巴萨引进塔的谈判正顺利进行
- ·前两个月,山西与共建“一带一路”国家进出口同比增长36.2%
- ·Wisconsin lawmaker recounts reunion with child he helped save from Iowa crash
- ·2025年国家网络安全宣传周今天启动
- ·意天空:国米在冬窗不会进行任何转会操作
- ·移居瑞士的11岁骑手潘天意:落地第二天就找马场想骑马
- ·南陵县家发镇太白社区:守护“钱袋子”,筑牢反诈“防火墙”
- ·国家海洋预报台继续发布风暴潮蓝色警报 这些沿海地区需注意
- ·《禁区:青鬼洞窟》多平台发售 日恐废墟逃脱冒险