共 1 篇文章
先问一个问题,电有重量吗?按道理来说,手机充电后与没电时,重量不一样才对
所言极是。AI再聪明厉害,也逃不出人类的如来神掌,因为AI的软件是人写的,是人来规范的。就好比人要AI agent来办事,也要在人设定的权限来做。即使现在AI有RSI(递归自我改进),人类也可以将它的功能范围设限。若AI想逃出这个限制,就立刻触发自动断电
我不担心 AI 会毁灭人类,我担心的是 AI 会被人类用来毁灭人类,从前不觉得,但听说千禧年七大数学难题中的一个,被 AI 一个星期就解出来了,那么,如果有坏人用 Ai 入侵和操纵了某国核武发射系统,怎么办?