PANews 9月25日消息,Dragonfly管理合伙人发文表示,若有人认为AI导致人类灭绝的概率(P(doom))为10%,实际上意味着其认为90%的情况下不会发生严重后果,但人类无法判断自己究竟处于哪种情况。因此,在能够确认灭绝风险已经消除之前,人类不应主动承担这一风险。
Haseeb补充称,自己曾是一名职业赌徒,而赌博的核心原则之一就是绝不能触碰“风险毁灭”(risk of ruin),即始终为重建和应对最坏情况保留筹码,AI风险或许并没有想象中严重,也可能很容易解决,但只要仍存在合理可能性,就不应在没有充分确认之前冒险。



