人工智能离我们有多远，将来有一天会反噬人类吗？ 杨燕青委员这样说

东方网记者王永娟、丁一涵1月19日报道：上海市政协委员再度与网友“云端相聚”。今天下午，上海市政协通过东方网、“上海政协”网站开展的委员与市民网上交流活动，五位市政协委员聚焦“培育壮大发展新动能，构筑高质量发展新优势”主题，与市民开展在线互动。就网友关心的“人工智能”话题，市政协委员、上海人工智能实验室战略研究中心主任杨燕青认为，人工智能已经融入普通百姓生活的方方面面。对于网友“人工智能会有一天反过来吞噬人类”的担忧，杨燕青认为，相信有足够的治理框架和治理工具，AI会给人类带来更好的未来。

有网友提问，人工智能离上海的普通百姓到底有多远？对此，杨燕青委员认为，人工智能已经融入普通老百姓生活的方方面面。“比如我父母已经八十多岁了，他们每天都非常喜欢使用智能音箱，用声音就可以听音乐、听评书，还可以问天气以及他们能想到的很多问题；又比如我们使用的‘随申码’，确保上海在疫情中有效防范，这其中也运用了大量的大数据和人工智能技术。”

不过，杨燕青委员也表示，看似简单的人工智能应用有时对老年人来说，并不容易，“比如智能音箱，我父母有时按键失误会导致系统需要重启，这时他们就束手无策。”因此，她认为，人工智能改变百姓的生活，最终还是靠硬核科技和有温度的人类行为的结合。

对于网友“人工智能会有一天反过来吞噬人类吗？”的担忧，杨燕青委员认为，不但是看多了科幻电影的观众，事实上一些非常著名的科学家和企业家也有类似的担忧。“科学家和预言家有一个大致的猜测，在2050年前后通用人工智能有望接近或超过人类的智力，这时人工智能反噬人类就成为可能。”杨燕青委员认为，无论这个预言是否准确，对于人工智能的治理人类现在就需要采取行动。“2021年联合国教科文组织发布首份AI伦理问题全球性协议，欧盟提出AI监管法规，中国国家新一代AI治理专业委员会发布了《新一代AI伦理规范》，中国全面加强算法治理，这些都是有益的尝试。对于反噬的问题中，AI的安全可控是核心，国际上目前有一个AI  alignment的提法，也是保证AI服务于人类、AI向善的新研究方向。”因此，相信有足够的治理框架和治理工具，AI会给人类带来更好的未来。科幻电影中最终也仅仅是科幻。