您的位置: 首页 > 专家动态

吴世忠院士:AI技术与伦理发展失衡,亟需跨学科综合研究

资讯出处:顾问与高端人才服务组资讯作者:发布时间:2025-01-02

近日,中国工程院院士、国家保密科学技术委员会副主任吴世忠在“第八届啄木鸟数据治理论坛”上提出:在对近十年全球AI科技论文进行统计分析后发现,相较于AI技术的发展,安全研究明显滞后,研究力量分布和资源利用也有待优化。研究相对集中的基础、技术、伦理和应用四大方向进展不一;围绕安全问题的风险,可信,攻击,防御,测评,应用和治理七个领域的研究也刚刚兴起、有待深化。除了强化AI安全研究外,相应的治理能力和治理体系也必须跟上,AI全球治理已进入提速换挡的关键期,治理的方向正逐步从各自为政向协作互动转变,治理力度也在由虚向实、逐步深入,且越来越注重通过政策和技术落地来推动“最佳实践”。由于法律制定滞后于技术发展,导致在AI应用过程中出现了诸多监管延迟,为潜在的风险滥用提供了“温床”。全球范围内规范标准不一,不仅阻碍了国际间技术的交流与合作,还影响全球治理体系的公平性。此外,数据主权与知识产权的纠纷随着人工智能对大数据的依赖加深而日益凸显,数据的跨境流动与应用触及国家安全、个人隐私及企业利益等多重敏感领域,如何在促进数据共享与保护各方权益之间找到平衡点,成为亟待解决的问题。同时,人工智能生成内容的著作权归属、算法黑箱导致的责任追溯难题,以及更为深远的机器智能与人类价值观的对齐问题,都对现有的法律法规体系提出挑战。综上所述,AI技术与伦理发展失衡不仅仅是技术问题,也涉及法律或社会问题,需要加强跨学科综合研究和社会各界的参与,构建一套适应AI时代要求的伦理框架与法律体系,在确保技术进步的同时,尊重和保护人类的尊严、权利与福祉。  

根据新华网信息编辑



分享至: