帖文详情
avatar
@oran_ge@x.good.news
「要让模型发挥作用,模型必须能够自由地以不变的形式表达其思想,因此我们无法将任何政策合规性或用户偏好训练到思想链上。」 要提高模型智力,必须要让模型自由思考,但是思考过程很可能是违规的,所以要隐藏起来。 这个思路很巧妙,保证了在监管环境下,模型也能够发展出自己的智力。 但这个决策其实会造成巨大的风险,这也许是安全团队集体出走OpenAI的根本。 而且在某些超强监管环境下,政府会允许模型进行违法思考吗? 政府会不会要求模型公司向官方曝光所有的思考过程? 另外通过隐藏思考过程,o1 实际上避免了竞争对手蒸馏此模型,实际上是在构建壁垒,而一般构建壁垒都是在阻碍创新,实际上是更进一步的 ClosedAI。
查看详情
0
0
0
@oran_ge@x.good.news
0/479
加载中