人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
杀出一条“雪”路****** 寒风呼啸，身着白色伪装衣的武警特战队员脚踩滑雪板穿行于林海雪原间，在运动中瞄准、击发、命中目标。 “成绩有效！”对讲机中传来声音，特战队员一个急停摘下防寒面罩，呼出的热气迅速变成一团升腾的雾气。 连日来，位于祖国边陲的黑龙江黑河最低气温已突破零下40摄氏度。面对极寒，驻守在这里的武警黑龙江总队黑河支队官兵叫响“越是严寒越向前”的口号，在白山黑水间掀起了“冬季大练兵”的热潮。 锻造坚固的“心理盾牌” 1月15日，天降大雪，黑河市锦河大峡谷内，一支行军队伍正在雪野中蜿蜒前进。“前方道路被毁，由摩托化机动转入徒步行军。”对讲机内传来指令，官兵们迅速下车、整理装具，向着山林深处进发。“冬季大练兵”的第一个课目徒步行军，正式拉开帷幕。 “不就是走路嘛！”第一次参加冬训的新兵周腾飞是南方人，第一次见到大雪的他显得格外兴奋。但队伍行进还不到10公里，原本活蹦乱跳的周腾飞就像霜打的茄子，默不作声地跟在了队伍后面。 “先是欢声笑语，然后窃窃私语，最后沉默不语。”入伍13年、经历过13次冬训的二级上士孙彪说，每年新兵参加冬训，都会经历这个过程。 “太冷了！跟我之前想的完全不一样！”走在队伍中的周腾飞望着一望无际的雪野开始犯憷，原以为在冰天雪地中行军是一件富有诗情画意的事，没想到徒步行军选的道路尽是些山沟野路，极寒条件下全副武装蹚在齐膝深的雪中，每走一步都要耗费极大体力。除此之外，无人机侦察、小股“敌人”袭扰等接踵而至的“敌情”也让周腾飞应接不暇。没过一会儿，他便汗流浃背，恐寒畏难等情绪开始慢慢出现。 “外界环境的变化，势必会导致心理上的应激。只有锻造坚固的‘心理盾牌’，才能适应实战的要求。”该支队支队长张仰勇介绍，“冬季大练兵活动”中，支队积极探索冬训期间心理服务工作新模式：他们抽选军医、卫生员、思想心理骨干成立冬训心理服务小分队，第一时间赶赴驻训地域开展心理服务工作；编印下发《严寒条件下易发心理问题解决20法》《冬训中心理自我调节常识》口袋书，为官兵配备防冻伤小药包；常态化组织冬训防寒保暖知识大讲堂，针对严寒气候环境容易诱发的多种身体、心理问题及解决方法向官兵传授经验。 摸清装备“耐寒指数” 1月17日晚，在支队的演训场上，装备保障股股长刘浩带着业务骨干对某型侦察仪器进行性能测试，尽管穿着大衣，他们还是冻得直打哆嗦。 “零下35摄氏度，某型软管窥镜电池工作效率下降30%，信息传输出现延迟……”刘浩一边讲，一边在本子上记录下此次测试的数据。在他随身携带的记录本上，密密麻麻写满了多种武器装备的“冻”态参数。 “和人一样，武器装备也会因环境的改变产生‘水土不服’，摸清各型装备‘耐寒指数’，是提高战斗力的重要前提。”刘浩介绍说，以往冬训，考虑到精密装备造价昂贵、信息化元件怕低温等原因，有的单位在冬训时选择将其“深藏闺中”。 “战争不分地域天候，恶劣环境下更能暴露出武器装备平时看不出的问题，要让每名官兵都成为数据采集员。”该支队领导在议战议训会议上一针见血地指出问题所在，随后制订下发《严寒条件下装备效能数据采集手册》，以便随时采集各型装备在不同温度条件下的性能数据。 以往从未经历过冬训的武器装备“全员出动”，暴露出的问题和困难自然不少。特战队员刘学在冬训第一天就“冒了泡”。那天滴水成冰，刘学所在小队受命执行侦察搜索任务，没想到“老伙计”竟然“罢工”了。经过检查，是由于长时间低温，电池电压不足，无人机无法起飞。 “无人机高空侦察！”对讲机传来指令。情急之下，刘学拆掉无人机电池塞进了大衣里，用自己的体温加热电池……待无人机起飞后，目标早已不见踪影，任务被判定失败。 失利后，刘学与战友们集智攻关，很快就为无人机穿上了“棉袄”——他们与厂家技术人员沟通协调，为无人机配备了便携式电池加热器，使用时仅需10分钟即可将电池温度提升至20摄氏度以上。此外，他们还在无人机电池上加装了绝缘贴纸，可以有效减缓无人机飞行过程中的热量损失。 除此之外，气温低于柴油凝点时如何避免车辆出现“趴窝”、通过染毒地带防毒面具观察口的雾气如何去除等问题，也在冬训中被一一解决。 据悉，此次野外驻训，该支队共总结测试出各类武器装备数据40余项，各型号装备在低温状态下的作战性能得到有效检验，填补了支队寒区作战的数据空白。 在冬训现场，笔者看到支队射击教员高黎明通过采集弹着点的分布规律，总结出低温条件下的射击要领，在零下30摄氏度的雪地里打出了5枪50环的好成绩。 让靶场与战场深度耦合 “距离200米，西北向来风，风速每秒5米……”观察员话音刚落，狙击手刘波果断开枪，成功“击毙”目标。 1月20日，大寒，一场实战化实兵对抗演练悄然展开，狙击手刘波执行潜伏狙击任务，在雪地中潜伏近30分钟后，才等到目标出现。 “不光打得要准，能在冰天雪地中隐蔽自己和反侦察同样重要。”刘波说。 在前不久的一次演习中，刘波所在小队受命对“暴恐分子”实施捕歼，正当刘波和观察员占据任务地域的最佳射击位置之后，意想不到的事情发生了。 “砰！”突如其来的枪声打破了山林的寂静，1名队员“遇袭”倒地。 “通过枪声判断‘敌人’位于我们西北方向。”刘波迅速判明情况，调整位置并做好射击准备。正当他在瞄准镜内发现“敌人”踪迹，准备射击时，没想到隐藏在另一方向的“敌人”却率先扣动了扳机。 “如果这不是演习，那后果将不堪想象。”复盘总结会上，“铩羽而归”的刘波作出深刻反思，“我们只顾着占领整个山谷的最佳射击位置，却忘了‘最佳位置’在顺风顺光的同时也最容易遭‘敌’打击。” 该支队作训股股长苏冠华介绍，此次演练，将部队机动至陌生地域，目的就是在陌生环境、实战条件下检验官兵作战能力，但部分官兵存在用惯性思维去适应新战场，情况设想不充分，预案制订不科学的情况，成绩不理想在所难免。 雪地机动后没有处理雪地上的脚印、生火取暖烟雾暴露目标等4类10余项脱离实战的问题被摆上台面，官兵们解决问题的同时也推动训练向实战再靠近一步。 近日，驻地气温已骤降至零下40摄氏度，但官兵们备战打仗的热情却丝毫不减，多项战法在风雪中接受了近似实战的检验。 许家铭 王梓嘉 胡森 中青报·中青网记者 郑天然 来源：中国青年报 彩神地图 |
