2024年9月12日，第十一届北京香山论坛如期举行。当天下午举办了中外名家对话会，主题聚焦“人工智能安全”。与会专家学者就人工智能的自主决策、可靠性、风险管控等议题展开了深入探讨。

东京大学技术研究所特聘教授、日本工程院外籍院士胡昂表示，人工智能“黑盒”的可信赖性是一个终极问题。他认为，人工智能无法在短时间内取代人脑决策，人脑仍是不可替代的。

联合国教科文组织人工智能与数据科学教席、荷兰海牙应用科技大学教授兰普罗斯·斯特吉乌拉斯则提出了一个哲学和现实问题——人工智能能否自主决策以取代人脑？他强调，当前人工智能监管面临巨大挑战，监管需更加敏捷，并建议各国政府在政策层面加强监管协作。关注发展中国家在人工智能发展中面临的不平等问题。

清华大学信息科学技术学院院长、中国工程院院士戴琼海指出，应解决“AI鸿沟”，让人工智能更好地造福人类。他预测，未来三年，人工智能发展将进入快车道，需提前做好相关伦理和治理工作，降低人工智能应用带来的安全风险。

美国国防分析研究所研究员、美国前助理国防部长帮办施灿德从国防和民生的角度提出，人工智能的安全问题十分广泛，因此他建议各国达成多边协议，共同应对人工智能的安全挑战。

军事科学院副院长、中国科学院院士陈小前在总结时引用了“大禹治水”的典故，他认为人工智能安全风险治理需注重疏导，相信人类一定能找到办法。

作为和平共处五项原则发表70周年的纪念活动，本届北京香山论坛以“共筑和平、共享未来”为主题，备受瞩目。论坛设置了多个全体会议和分组会议议题，吸引了来自100多个国家和国际组织的500多位代表以及200多位专家学者参会，共同探讨国际安全与和平发展。