在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
扎根西部大地建设中国特色世界一流大学******
作者:马小洁(兰州大学党委书记)
党的二十大吹响了全面建设社会主义现代化国家、全面推进中华民族伟大复兴的奋进号角,进一步激发了高校自觉肩负起以高等教育高质量发展服务区域高质量发展的使命担当。兰州大学将始终以强烈的政治责任感和历史使命感,学深悟透做实党的二十大精神,更加解放思想、更加主动进取、更加团结奋斗,在西北办好一流大学,不断释放支撑服务中国式现代化的新动能新活力。
增强历史主动,引领事业发展形成新格局。扎根西部、服务国家、引领发展,是兰州大学作为中国高等教育战略布局重要组成部分所应承担的最朴实的社会责任和最主要的历史任务。百十年来,兰州大学自强不息、独树一帜,已成为我国特别是西部地区高水平创新人才培养、基础科学研究和高新技术研发、高层次决策咨询的重要基地,成为国家和区域创新发展体系的重要组成部分。兰州大学将深入贯彻落实党的二十大精神,进一步坚定历史自信、增强历史主动,深刻领悟党和国家发展对高等教育的殷切期待,准确把握学校所处的时代坐标和历史方位,保持战略定力和战略清醒,不断解放思想、转变观念,不断强化“一流”意识,提升干事创业精气神和战斗力,充分激发蕴藏于师生之中的发展伟力。坚持在特色中兴文、在原创中厚理、在厚理上拓工、在创一流中精农、在抓基础上强医,进一步强化基础学科、新兴学科、交叉学科建设,优化专业结构布局,锻造服务高水平科技自立自强的国家战略科技力量,提升服务国家战略和区域经济社会发展能力。
挖掘区域禀赋潜力,塑造学科特色发展新优势。促进西部发展是实现中国式现代化不可或缺的重要一环。一直以来,兰州大学立足西部独特的资源禀赋,在青藏高原、冰川冻土、风沙治理、敦煌学、中亚问题、区域经济等领域,形成了一批原创性引领型的学术高点。新时代新征程,兰州大学将进一步把研究解决学术前沿问题与解决区域经济社会发展现实问题、理论问题相结合,凝练学科方向、塑造优势特色,提升原始创新能力,最大程度展现学科价值。强化问题牵引、团队传承和学科辐射,提升数理化天地生、文史哲政经法等基础优势学科核心竞争力,增强优势特色学科对主流学科发展的原创性贡献,构筑特色优势学科的高原高峰。面向西部现代化产业体系建设,谋划布局新一代信息技术、人工智能、生物技术、新能源、新材料、高端装备、绿色环保等领域新兴学科。创新探索基于青藏科考、黄河流域生态保护和高质量发展、推动共建“一带一路”等具体案例的交叉学科,努力在与区域发展同频共振中形成立体化、特色化的学科发展新赛道新优势。
强化有组织科研,彰显战略科技力量新势能。近年来,兰州大学紧紧围绕国家战略需求和区域经济社会发展需要,充分释放基础研究、科技创新潜力,首次合成共价有机框架材料的大尺寸单晶,研制成功首颗极大规模全异步电路芯片,原创性地提出“黄河水系发育模式”,研发出风沙灾害治理新技术,着力解决在种质创新和生命健康等方面对基因功能和作用机理的重大需求,在西部树起了创新驱动、勇创一流的旗帜。未来,兰州大学将进一步增强党建引领和统筹科研高水平发展的能力,点燃各类科研组织和广大科研工作者科研报国的激情和动力,激励引领大家心怀“国之大者”、紧盯“四个面向”,聚焦关键核心技术和重大科学问题,开展原创性引领性科技攻关。持续整合汇聚项目、人才、资源等科研要素,围绕“筑牢国家西部生态安全屏障”等,超常规布局建设一批“打基础管长远”“有特色创一流”的重大项目,全力推进草种创新与草地农业生态系统全国重点实验室建设,打造西部安全重大科研平台、西部高发疾病转化医学与新药研发科教平台等,努力在应用技术研究、关键性技术突破上取得更多新进展。
坚持立德树人,展现人才自主培养新作为。实现高质量发展,教育是根本、科技是关键、人才是基础。兰州大学一直以人才培养见长,毕业生中当选两院院士、获得国家杰出青年科学基金的人数稳居全国高校前列,创造了化学“一门八院士”、地学“师生三代勇闯地球三极”等享誉国内外的“兰大现象”。今后,兰州大学将始终坚持为党育人、为国育才,紧紧围绕“全面提高人才自主培养质量,着力造就拔尖创新人才”这个时代课题,坚持人才强校战略,站在后继有人的高度,加强战略科学家和青年优秀人才培养力度。坚持以德为先、能力为重、全面发展的育人理念,完善一流育人体系,发挥一流学科优势,推进学科优势向专业优势转化、人才优势向育人优势转化、科研优势向教学优势转化。深化“六卓越一拔尖”计划2.0、强基计划、基础学科人才培养基地内涵创新与示范引领,完善导师制,建立优秀本科生提前进入研究生阶段学习的培养模式,实施本研贯通一体化培养。深化专业升级改造,促进“四新”交叉融合,加快培育微专业、交叉学科专业。开展课程存量改革,加强跨学科贯通课程、在地国际化课程建设,推进实验实践课程与社会发展、科技进展的有效衔接。坚持以一流科研成果反哺一线教学,注重用科技前沿问题、重大原始创新问题开阔学生战略眼光、厚植科学素养,培养学生跨学科能力和解决综合复杂问题的能力。坚持“五育并举”,深化“三全育人”,努力培养有理想、敢担当、能吃苦、肯奋斗的时代新人。
《光明日报》( 2022年12月20日 05版)
(文图:赵筱尘 巫邓炎)