月之暗面CEO杨植麟谈AI安全:不一定是当前最大的矛盾,但肯定是长期储备|大模界
摘要:
今日(6月14日),AI行业盛会2024北京智源大会在中关村展示中心开幕。《时代周刊》在现场注意到,在全体大会中的尖峰对...
今日(6月14日),AI行业盛会2024北京智源大会在中关村展示中心开幕。《时代周刊》在现场注意到,在全体大会中的尖峰对话:通往AGI之路环节,百川智能CEO王小川、智谱AI CEO张鹏、月之暗面CEO杨植麟、面壁智能CEO李大海展开对谈。
在对谈中,杨植麟谈到,AI安全非常重要,它可能不一定是当前最急迫,但是一个需要我们提前去准备的事情。因为随着模型不断优化和Scaling Law(尺度定律)的发展,每N个月算力乘十倍,智能水平也得到提升,这是一个逐渐适应的过程。因此,AI安全不一定是当前最大的矛盾或者最紧急的事情,但它肯定是长期储备。
杨植麟认为,在这之中最重要的是两个方面,首先是模型会因为用户本身有些恶意意图,通过prompt(提示词)让模型去做一些本来不应该做的事情。其次是模型本身是否有自己的motivation(动机),这与训练方式相关,包括能否在模型的底层去注入例如AI的宪法、功能去框定其行为,无论用户给什么指示,都不会违背这个宪法。
还没有评论,来说两句吧...