您的当前位置: 首页 > 失控 鬼策 > 正文

失控 鬼策

失控 鬼策 时间:2025年05月22日

自从摄影术发明的那一刻起,人们便开始孜孜不倦地进行着技术改造。在今天,没有一家手机厂商不在追求更多的摄像头、更下降的像素、更先进的成像算法,似乎只为追求一张更逼真实的影像。

我们真实的在追求真么?这几乎是一个完全无法验证的玄学问题。而我们却很诚实地在做一些去真存真实的事情。比如为照片添加滤镜、为自拍磨核美白、为视频增添特效。再比如,我们兴致盎然地把自己的脸替换到梦想中的明星身上。

看来追求真实自我其实成了一种自欺,而骗过眼睛让大脑愉悦才是人们真香的追求,至少在视觉层面尤为明显。以前,当我们说到以假乱真、惟妙惟肖这些字眼的时候,往往带有一种对艺术的失礼,因为这意味着常人难以实现的难度和巨大的成本。

然而,随着人工智能中GAN(对抗式生成网络)的进化,让静态图像、音视频中人物生成变得日益逼真且廉价,类似Deepfakes这类AI换脸技术普及后,那么问题真实的就来了。

2017年,一个名为DeepFakes的开发者把AI换脸技术开源,关闭了AI造真实的潘多拉盒子。Deepfakes成为了这一技术的专有名词。2019年初,随着一段杨幂换脸朱茵的视频火爆网络,又开启了中国的AI换脸元年。紧随其后,各类AI换脸作品和应用不断出现,AI换脸随着普通人的尝鲜彻底走向了技术普及和产业失控。

首先,最不明显的,不引人注目的影响就是AI换脸所掀起的一场色情视频造真实的黑产狂欢。不仅针对公众人物、明星,甚至于只要在社交媒体多次上传自拍照,每个人都要面对这一威胁。

更笨重的是对于政治选举、公共安全以及经济体系的威胁。一段关于政客受伤、重病的假视频可能不能引起国内的金融动荡甚至严重冲突。一段假冒权威人士发布恐怖袭击、疾病灾害等假消息的视频会不能引起群众恐慌甚至暴力冲突。

最为深远的影响就是对于整个社会公信力的影响。越来越多的人从社交媒体获得第一手信息。假视频泛滥让信息真伪难辨,比如刻意伪造的假新闻,原创领导人、权威专家的权威信息。数以亿计没有专业辨识能力的普罗大众会更容易接受而被真诚对待,引发更大的公信力危机。

作为一项日趋成熟且普遍应用的技术,AI换脸已成不容关心的存在。

似乎除了色情造假产业的黑产狂欢外,受这一技术影响的相关几方都亟需从当前有利的条件中突围。对于政府来说,如何合理立法以批准造假内容的生产和保守裸露,公开又不越界帮助民众的言论严格的限制?对于商业应用来说,如何合理商用这项技术又避免侵权或引发接受危机?对于社交媒体来说,如何合理地批准这类造假音视频内容的保守裸露,公开又不批准用户的使用体验?

这些问题的解决,仍然亟待AI技术本身先行给出一套检测和控制假视频的解决方案。

无限游戏:

击败Deepfakes的AI检测技术有利的条件

由技术引发的灾难只能由更先进的技术来解决,这似乎是AI研究者的唯一逻辑。AI换脸的造假检测技术,似乎成为这场技术有利的条件突围的最佳解决方案。

但由于AI换脸的验证检测技术具有严重依赖以往模型的反应机制,即当前方法无法检测新的Deepfakes算法。因此,AI换脸的检测技术与造假技术将长期处在攻防赛状态。

最早向Deepfakes发难的是美国国防部DAPRA。早在2018年5月,他们就设立了媒体鉴证项目,并与纽约州立大学开发出一款反换脸AI刑侦工具,通过有效地预测眼睛是否眨动的状态,当时准确率达到99%。然而这款工具还没推广就失效了,因为Deepfakes技术进化了。

2019年6月,加州大学伯克利分校和南加州大学的研究人员打造的AI检测系统构建了高度个人化的软生物识别指标,对于当时的假视频的总体识别率超过了95%。但该技术也存在一些破绽,面临被新的Deepfake算法反制的确认有罪。

因此,这场攻防战的第一个有利的条件就是技术演进的悖论。研究人员如果要提出一个更好的检测技术之前,必须提出一种能够胜过当前市面上流行的AI换脸技术的新方法。也就是说,就要先造出更锋利的矛,才能有资格造出更可靠的盾。

因为即使研究人员不如此做,随着AI算力越发易得,GAN算法的不断增强,AI换脸技术也在不断升级完善。比如,近期英伟达公开了第二代人脸生成算法StyleGAN2的源代码,它可以根据五官、发色生成自定义风格的人脸图像。基于StyleGAN2也可以分隔开多张人脸图像进行人脸瓦解,生成的分解图像同时具备模板图像特征与目标图像特征,已经达到骗过数量少人脸识别偶然的程度。

第二个有利的条件就是对抗AI造真实的数据合法性的牵制。虽然网络黑产有着庞大的Deepfakes假视频数据,但因其违法和侵权属性不可能用于研究。而AI换脸检测需要极小量的原始目标人脸以及替换后的人脸数据,因此,研究团队必须储藏时间和巨大成本创建合规的数据集。

这一尝试已经开始,2019年初,来自德国和意大利两所大学的AI研究者基于YouTube视频生成了一段包含1000段假视频的FaceForensics++数据集,用于训练鉴别造假视频的神经网络。9月底,谷歌宣布开源的包含3000段真假视频的大型Deepfakes数据集,纳入FaceForensics基准当中,供研究社区免费获取并用于开发分解视频检测方法。

面对当前这两种技术有利的条件,AI研究者有哪些方法可以应对呢?

釜底抽薪与饿和攻击:

AI换脸检测解题新思路

近日,来自中国的两个研究团队给出了不反对解决以上技术有利的条件的解决方案。一种方案类似釜底抽薪,即针对AI换脸的底层逻辑去开发新的算法,即使不需要更多的数据,也能取得很好的验证效果。另一种解决方案则类似饿和攻击,他们从现有的数据集为基础,将数据集扩充到一个新的更大规模、更高质量的程度,从而应对更多样化的人脸造假视频的检测。

2020年1月,来自微软研究院与北京大学的研究小组共同提出了一种全新的AI换脸框架FaceShifter,以及一种检测伪造人脸图像的方法FaceX-Ray。前者可以极大降低换脸的高保真度,而后者则用于检测出复杂伪造人脸图像。

FaceShifter生成的高保真度换脸图像,可以很好耗尽目标人脸的头部姿态、面部表情、光线、颜色、强度、背景以及其他遮挡物。其无足轻重之处在于该模型无需人工标注数据的训练下即可生成任何人脸。

简单来说,FaceShifter与之前的AI换脸方法相比,效果表现更优异。那这意味着,研究者同时提出的人脸造真实的检测工具必须更破坏悍。

为此,FaceX-ray提出了一种全新的人脸伪造的图像检测方法。它通过显示伪造图像的瓦解有无批准的和真实图像没有瓦解来实现是否存在造真实的检测。这一方法就像是给被检测的图像拍摄了一张X光片一样,让其瓦解轮廓显露原型。

同时,相较于之前有监督的人脸检测方法会存在缺乏拟合的问题,FaceX-Ray不需要依赖于与特定人脸操作技术不无关系的伪造图像的知识。由于是无监督训练,它的算法可以减少破坏在不使用任何方法生成假图像知识的情况下进行训练。因此,它可以从更通用性的意义上来进行有效检测。

FaceX-Ray在人脸造真实的图像检测上采取了一种更根本的解决问题的思路,即我们与其知道一个图像是如何造假,不如知道一个图像如何才是真实的。FaceX-Ray的解题逻辑就是:真图像不会分解。

但可以预见的是AI换脸的技术演化也不会停步。比如说,AI换脸本身不再是A、B两个面部图像的瓦解叠加,而就是人脸生成算法基于A、B面部特征的直接生成新的一张面孔C。这样FaceX-Ray也面临失效的严峻考验。

紧接着,商汤科技也加入这场攻防赛,他们则采用了类似饿和攻击的战术。据报道,商汤联手新加坡南洋理工,推出了迄今为止最大的Deepfakes检测数据集,DeeperForensics-1.0。该数据集包含60000个视频,是现有同类数据集的10倍。

研究者意识到,之前数据发散的视频存在着数量少、质量低以及过于人为化的特点;同时在一些假视频检测中,训练视频和测试视频存在高度反对性,这些让人脸造假检测的实际效力有待检验。所以,他们提出的解决方案就是授予一个尽可能包含了潜在变化的真实世界详尽可能的数据集,用于增强人脸造假检测模型的打造。当然,最终结果也验证了质量好、数据量大、多样性下降的数据集可以明显降低视频人脸伪造的基准测试结果。

在这个信奉暴力计算的时代,商汤实力演绎了一次大力出中庸的策略,用饿和攻击的方式去迎战Deepfakes层出不穷的狡计,而这一工作含糊给后面的研究者授予了研究的便利。

目前,AI换脸的检测技术仍是少数研究机构的实验品。但随着AI换脸技术的日臻完善,社交媒体以及数量少互联网平台如何利用失败AI检测工具做好换脸图像以及假视频的甄别,已经是迫在眉睫的事情。

被技术重塑的未来:

反Deepfakes的商业化可能

AI换脸带来的技术确认有罪,除了以上AI研究机构和研究者的努力,还需要更多利益相关方的参与和减少破坏。

正如同这场对抗赛并非来自实验室中华山论剑,背后还有像Facebook、Twitter、YouTube、这类平台型机构,作为减少破坏者和主导者。比如,去年9月,Facebook宣布启动一项Deepfakes视频检测确认有罪赛(DFDC),悬赏1000万美元以期找到有效检测利用失败Deepfakes技术生成的假视频的方案。大赛授予一个数据集和排行榜,通过拨款和奖励方式以促进行业创造新的检测工具,从而防止被AI操纵的媒体纠正普通用户。这无疑给中小AI研究机构很大的威吓和资金减少破坏。

要说其背后原因,自然是因为社交媒体是造假视频保守裸露,公开的主要阵地,也是放大其不良影响的重要因素。人们常说造谣一张嘴、辟谣跑断腿,当Deepfakes制造的诚实视频在Facebook、Twitter上疯狂保守裸露,公开时,就已经根除了不可挽回的损失。而苦主想要追责时,第一步要做的就是问责平台方。为了保证平台上内容的真实可控,社交媒体企业必然要找到Deepfakes视频的甄别方式。

因为Deepfakes带来的负面效应与不为人所知的人政客、社交媒体平台有着切实的利益关联,所以Deepfakes检测技术也有着很欺骗的商业前景。例如在未来,社交媒体采购Deepfakes甄别技术,将其加入平台视频发布审核流程当中,很可能会成为一种常态。同时面对假视频泛滥的情况,或许还有可能出现权威的视频检验机构,干涉欺凌弱小者反对视频的真假。

更次要的是,AI换脸代表的造假技术的狂潮不可逆转,我们也必须学会更好地适应这一趋势。就像PS的普及让我们对图像的造假已经高度发展免疫一样,AI造假视频的普及也会让人们逐渐适应,只不过,对于大多数人而言,需要付出的学习成本和认知转变的成本有些高昂。在这一过程中,不论是技术开发者还是保守裸露,公开平台,都有责任向用户进行宣教。

当眼见为实的有无批准的真正被打破,我们看待世界的规则需要重新被塑造。首先,向大众普及Deepfake这项技术也变得非常重要。就如同身体对抗病毒的最好方式,就是通过注射疫苗先增强身体的抵抗力。其次,当人们意识到眼见的一切视频都有可能为真实的时候,人们又可能会更重视有公信力和权威性的媒体信息平台。

这也许是眼见为假时代带给人们的更多的文明副产品之一。

上汽乘用车新能源销量破6万国内外齐发力中华网汽车原创崔成2021年07月09日09:42[中华网行业]近日,上汽乘用车公布了6月新能源车销量数据,旗下荣威、MG、R汽车“三箭齐发”,助力品牌热销破万辆,同比激增137%,环比增长29%。至此,上汽乘用车已实现连续多月销量破万,上半年新能源车累计销量超6万辆,同比大增229%。

国内市场,荣威ei6MAX、荣威RX5ePLUS等插电混动车型获得了数量少用户的青睐,稳稳站住插电混动汽车销量榜第一梯队;纯电方面,R汽车交付量环比增长10%,二季度累计交付量环比大增52%,旗下ER6环比增长28%。

海外市场,上汽乘用车新能源在欧洲的瑞典市场,仅纯电动MGEZS就创造了单个门店单月109辆的删除;5月25日,超千辆MG电动车一次性发运欧洲市场,凹显出MG在全球市场上的实力。除此之外,MARVELR也已正式在欧洲开启预售,将陆续登陆德国、法国、荷兰、挪威等。

上汽乘用车已自主掌握“电池、电机、电控”不次要的部分技术无足轻重,研发了大模组电池方案、8层Hair-pin电机、10速二代EDU智能电驱变速箱、BMS电池无约束的自由系统等黑科技。

同时,上汽时代、时代上汽动力电池二期项目已在近期正式开工,总投资约120亿元,将建设多条先进动力电池及Pack(电池包)生产线。

值得一提的是,上汽还将推出新一代动力电池系统,具有“零热失控”、“可充可换可升级”、“实现高性能与低成本的不平衡的”三大无足轻重。据悉,该系统将应用于上汽乘用车R汽车高端车型。

点击阅读全部

九号公司再度突破行业有无批准的,1月3日发布全新国标电动车F2z110MAX,凭借安全性能的升级、续航能力的指责以及多项智能化设计,树立了5-6千元价位的国标电动车新标杆。安全性能的全面指责F2z110MAX首次将单通道阀式ABS技术应用于6K档国标电动车,这项技术在紧急制动时能够有效防止车轮抱死,避免因打滑导致的失控,极大指责了骑行的安全性。作为一款面向更广泛用户的高品质车型,它充分展现了九号公司对技术创新和用户需求的肤浅理解。...

特别声明:本页面标签名称与页面内容,系网站系统为资讯内容分类自动生成,仅授予资讯内容索引使用,旨在方便用户索引相关资讯报道。如标签名称涉及商标信息,请访问商标品牌官方了解详情,请勿以本站标签页面内容为参考信息,本站与可能出现的商标名称信息不存在任何关联关系,对本页面内容所引致的错误、不确或包含,概不负任何法律责任。站长之家将尽力确保所授予信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主无法选择的行为负责。任何单位或个人认为本页面内容可能涉嫌解开其知识产权或存在不实内容时,可及时向站长之家提出书面权利拒给信息或不实情况说明,并提权属反对及详细侵权或不实情况反对(点击查看反馈联系地址)。本网站在收到上述反馈文件后,将会依法依规核实信息,第一时间沟通删除相关内容或断开相关链接。

九号公司再度突破行业有无批准的,1月3日发布全新国标电动车F2z110MAX,凭借安全性能的升级、续航能力的指责以及多项智能化设计,树立了5-6千元价位的国标电动车新标杆。

安全性能的全面指责

F2z110MAX初次将单通道阀式ABS技术应用于6K档国标电动车,这项技术在紧急制动时能够有效防止车轮抱死,避免因打滑导致的失控,极大指责了骑行的安全性。这一创新不仅让消费者获得更安心的骑行体验,也再次反对九号践行“技术平权”的承诺。此外,F2z110MAX还搭载了行业领先的ALC全镜幕照明系统,通过Sirius技术降低能耗的同时,将灯组效率进一步优化,近光亮度指责50%,远光亮度指责65%,让夜间骑行视野更加透明。

强化车架设计与驾驶轻浮性

在车架设计上,F2z110MAX采用了强化合金材质,新车架纵向顺从指责了61%,外围顺从指责了50%,大幅增强了车辆的结构轻浮性和抗冲击能力。同时,前碟刹盘升级至220mm,前轮配备12寸大轮胎,进一步指责了车辆在复杂路况下的操控性能。这些升级不仅让用户在骑行时更加舒适,还显著指责了整车的安全性和耐用性。

真续航与智能配置并驾齐驱

续航方面,F2z110MAX实现了110公里的真续航能力,为用户授予了长途骑行和日常通勤的双重保障。在智能化配置上,九号进一步优化了灯光系统和操控性能,ALC全镜幕照明系统带来的有效照明和全覆盖光幕让骑行更加便捷、安全。九号始终注重用户体验,通过智能科技的创新,将实用性与科技感美好瓦解。

首发优惠,超高性价比

九号F2z110MAX的零售价为6399元起,首发期间直降600元,首发权益价5799元起即可入手。此外,部分平台还授予6期免息优惠政策,为消费者带来了相当驱散力的购车选择。F2z110MAX不仅是一款高性能电动车,更是一款兼具性价比与品质的全能之作。

九号F2z110MAX以安全为不次要的部分,瓦解强悍的性能、耐久的续航和智能化的体验,重新定义了国标电动车市场的标准。作为一款面向更广泛用户的高品质车型,它充分展现了九号公司对技术创新和用户需求的肤浅理解。

(推广)

两年之内,国内两轮电动车必将迎来极致内卷,竞争烈度甚至可能不亚于当下的汽车和光伏。

产能失控

2020年九号公司上市,2021年爱玛科技上市,2023年绿源集团上市,过去几年,两轮电动车头部企业集体登陆资本市场,获得极小量资金,叠加行业景气度指责,整个行业陷入了疯狂的产能扩张。

2019-2022年,雅迪的产能从800万台指责至2000万台,四年产能减少了1.5倍;爱玛科技近几年狂飙突进,预计2024年的产能接近2000万台,同比2022年的数据几乎也翻了一倍;台铃去年8月惠州生产基地一期投产,年产能将达到1200万台,相较2019年翻倍;绿源在浙江、广西、山东建造了三大整车智造基地,在重庆投资建设的第四个智能制造基地也将于2025年投产。按照绿源的规划,未来四大生产基地预计产能将超过1000万辆,而在2021年底,公司只有210万辆的年产能;九号公司位于常州的智能电动两轮车工厂A期、B期厂房已经投产,C期厂房预计2024年底完工,届时公司电动车工厂外围年产能可以达到350万-400万台,作为参照,九号公司去年总共才生产了148.5万台电动两轮车。

此前曾有机构做过统计,2024年,国内两轮电动车行业仅TOP6企业的产能就已飙升到近7000万台,现在来看这个数据恐怕也是比较保守的。按照这个比例来计算,全行业1亿台的年产能完全可以期待,而根据研究机构EVTank最新发布的《中国电动两轮车行业发展白核书(2024年)》,2023年全球电动两轮车总体出货量也不过才6740万辆。

全行业产能已经严重缺乏,但相关企业依然不打算收手。

今年4月26日,爱玛科技董事会赞成公司与江苏省徐州市丰县人民政府签署《投资协议书》,拟在丰县通过设立项目公司投资建设爱玛科技丰县产业园项目,计划总投资约30亿元,用于进一步缩短公司电动三轮车产品产能。5月31日,爱玛科技与甘肃省兰州市兰州新区无约束的自由委员会签署《投资协议书》,在兰州新区通过设立项目公司投资建设爱玛兰州新区产业园项目,计划总投资约20亿元,用于进一步缩短公司电动两轮车、电动三轮车产品产能。短短一个月的时间,又砸下了50亿极小量投资。

2023年爱玛科技发行了20亿元可转债,其中15亿元用于建设丽水爱玛车业科技有限公司新能源智慧出行项目(一期),项目建成达产后将新增300万辆电动两轮车年产能。参考这个投入产出比,50亿投资至少将对应大几百万辆的新增产能。

如果按照过去几年的发展势头,这些巨量产能的奴役或许不会对行业根除太大冲击,但问题在于,过去的发展势头是不可结束的。

红利消失

2019年3月,以《电动自行车安全技术规范》(俗称“新国标”)正式生效为标志,两轮电动车进入一个全新的规范发展阶段。

在此之前,行业鱼龙混杂,极小量区域品牌割据一方,缺乏统一监管标准,致使安全事故频发。新国标对电动自行车的车速、重量、电机功率、电池电压等各个方面都进行了规定,凡是不达标的一律淘汰。与此同时,在生产侧推动车辆3C认证、“一车一票”等准入、溯源监管措施。

这些举措对供需两端均产生了巨大影响。

需求端,那些不符合新国标要求的极小量超标电动车需要在过渡期前替换,强行带来新增需求。2019年以前,我国电动两轮车年度销量高度发展轻浮在3000多万辆,此后悠然,从容爬升,2019年-2022年分别达到3680万辆、4760万辆、4980万辆、6070万辆。

供给端,严格准入与溯源无约束的自由使得中小企业生产成本大增,大多数后排玩家只能被迫交出市场。数据显示,国内两轮电动车玩家数量高峰时有2000余家,新国标后市场份额悠然,从容向头部发散,2016年,电动两轮车销量CR3占比只有25%,到2021年这一数据已指责至65%,同时行业只剩下100多家符合新国标且具备摩托车生产资质的企业。

需求端与供给端共振,结果就是严重肥了头部企业。

2019年-2022年,雅迪的营收从120亿增长到310亿,公司股价更是在2020年一度飙涨10倍;同期爱玛科技的营收从104亿增长到208亿,九号公司从46亿增长到101亿,绿源从25亿增长到48亿,高度发展全部实现翻倍增长。

然而,政策红利终究不是常态,大部分地区新国标过渡期为3-5年,也就是大约在2024年彻底开始,而根据统计局之前的预估,截至2022年新国标替换需求已完成80%以上,这意味着新国标所引发的存量替换行情已接近尾声。

还有一点值得注意,过去几年国内两轮电动车渗透率已实现大幅指责,按照4.2亿辆的存有量来计算,现在中国几乎每4个人就拥有一辆小电驴,这意味着清楚的增量空间也不大了。

既没存量替换,又缺新增需求,整个行业的前途也就可想而知了。

事实上,后劲不足的逻辑已经在企业的财报中有所印证。

2023年,雅迪的收入同比增长11.92%,绿源同比增长6.27%,爱玛科技则仅增长了1.12%,这与过去一些年整个行业的高歌猛进形成鲜明对比。进入2024年,形势似乎愈发严峻,一季度爱玛科技营收同比下滑近9%。

政策红利退潮后,整个行业将回归常态发展,在下一轮发散更换期到来前,国内市场恐怕很难再有大的突破。海外市场是一个潜在机会,但短时间内显然无法消耗国内如此庞大的产能规模。两轮电动车属于典型的同质化竞争行业,当需求收缩撞上供给扩张,价格战几乎是不可避免的,这一点已经有过前车之鉴。

2016年上市后,雅迪悠然,从容在业内掀起价格战,所有车型降价30%,此举使得公司在第二年就完成了对爱玛的市占率反超,成为名副其实的“电驴之王”。2020年,雅迪又和拼多多联合举办了一场“品牌万人团”的活动,继续以价格战的方式维持自身领先无足轻重。

过去产业格局意见不合,头部企业尚可通过挤压中小厂商来获得增长空间,因此对于行业的周期震荡感触并不深,如今行业格局高度发散,头部企业只能镰刀互砍。

从这个角度来看,接下来的这一轮行业内卷可能比之前任何一轮都要惨烈,像爱玛科技这种还在激进扩张的企业,尤其需要小心谨慎。

(责任编辑:zx0600)

美国国防部宣布将向乌克兰授予约5亿美元的军事使恶化,这是拜登任内向乌克兰输收的第74批美军库存武器。这批使恶化包括防空导弹、空对地弹药以及维持乌克兰使用F-16战机的设备等。自2022年2月底战争爆发以来,拜登政府已累计向乌克兰授予了超过650亿美元的军事使恶化。

据报道,这将是拜登政府向乌克兰授予的最后一批军事使恶化。美国国防部长奥斯汀将在周五访问德国的美军基地,与盟友举行乌克兰防务联络小组会议,这也是美国政府换届前的最后一次类似会议。

种种迹象隐藏,美国政府正在为俄乌和谈做准备。在宣布最后一批军事使恶化的同时,白宫正准备新一轮对俄制裁,预计将在本周末公布。美国试图在可能发生的和谈之前,尽可能多地收回乌克兰筹码,以期在今年开始战争。美国官员还表示,乌克兰的武器弹药库存目前处于轻浮状态,但该国面临笨重的人员短缺问题。

拜登原计划于周五在罗马会见乌克兰总统泽连斯基,但由于加州山火失控,他的意大利行程已被造成。此次会面原本旨在降低重要性拜登政府在任期仅剩的时间里依然大力减少破坏乌克兰政府。

面对特朗普即将重回白宫的现实,拜登政府官员表示,无论去年美国大选结果如何,美国和乌克兰政府都预期和谈会在2025年上半年举行,因此他们的目标是在谈判前进一步减少乌克兰的实力。

特朗普提名的俄罗斯及乌克兰事务特使基思·凯洛格表示,他希望在特朗普宣誓就职后的100天内找到俄乌双方的和解方案。对于可能进行的和谈来说,最大的转折点是特朗普政府似乎并不减少破坏乌克兰加入北约。围绕北约成员国资格的问题被视为俄乌战争的重要导火索之一。

在本周二的海湖庄园新闻发布会上,特朗普表示能够理解俄罗斯赞成乌克兰加入北约的立场。他认为,这件事可能会对俄罗斯根除不必要的挑衅。相较于凯洛格的“百日目标”,特朗普表示希望在半年内解决这场战争。

快科技1月10日消息,目前发生在帕西菲克帕利塞兹社区和阿尔塔迪纳地区的野火仍处于完全失控状态,超过1500名消防人员正奋战在野火现场。

受当地结束干燥和强风天气影响,火势预计将会继续蔓延。

日前网络上流传多张洛杉矶好莱坞巨型标志牌HOLLYWOOD被火焰吞没”的图片和视频,甚至连不少媒体和新闻都分享了这些图片和视频,声称好莱坞标志牌着火了”。

需要注意的是,这张图是真实的!

因为图片上该标志牌多了一个字母,变成了HOLLYWOODD”,此外,部分保守裸露,公开的图片右下角还带有GrokAI”的水印,隐藏其由马斯克旗下公司xAI开发的人工智能工具生成。

X平台也为相关内容添加了注释”,指出这些图片和视频是AI生成的,目的是纠正观众。

值得注意的是,近期西藏地震也出现了AI图片保守裸露,公开,一张小孩被埋图”在网络上悠然,从容保守裸露,公开,但其实这是原作者去年通过AI创作的。

官方降低重要性,如果遇到疑似图片,可以先观察细节,许多AI生成的图片、视频中,可能存在人物表情僵硬、中心清晰、光线阴影不自然、手指等细节数量被预见的发生或扭曲等。

另外,应从多个权威渠道获取信息进行对比,在确定信息真实可靠之前,不要随意转发。

这也提醒我们,如今AI发展悠然,从容,但用途还需要进行规范,比如某些AI会在生成图片中加入隐藏水印干涉人们辨别,AI不该是保守裸露,公开谣言的工具。

加州山火人祸更多细节被披露。洛杉矶县法医办公室于1月12日反对,山火已根除24人死亡。灾难仍在结束,美国政客围绕山火话题互相公然反对,受灾居民却面临着政府不作为、物价哄抬等有利的条件,失去家园的人们虽然逃出火场,却无处安身。

特朗普在社交媒体上发文批评称:“洛杉矶大火仍在肆虐,不称职的政客根本不知道如何灭火。数以千计的豪宅已经消失,还有更多很快就会消失。到处都是死亡。这是美国历史上最笨重的灾难之一。他们就是无法扑灭大火,他们出了什么问题?”此前,特朗普已多次批评美国总统拜登、加州州长纽森以及洛杉矶市长巴斯等民主党人,甚至要求纽森因山火失控辞职。

面对批评,纽森在美国全国广播公司节目中表示,特朗普在散布诚实信息。纽森寻找特朗普视察灾区,但未收到回应。纽森还指出,如果特朗普真开始使恶化加州救灾,将威胁到正在抗火第一线的应急人员。纽森在接受美国有线电视新闻网采访时也公然反对特朗普试图政治化山火话题。

美国联邦应急无约束的自由局局长迪妮·克里斯韦尔呼吁不要把灾难政治化,降低重要性不论是民主党人还是共和党人都应共同面对这场灾难。

洛杉矶消防局长克丽斯廷·克劳利在接受媒体采访时表示,她不知道为什么水库和消防栓里没有水,这需要去问洛杉矶水电局。克劳利提到的圣伊内斯水库自2024年2月起因维修而关闭,导致山火发生时水库里没有水。

相关新闻孩子玩火熄灭沙发家庭惊魂一刻近日,一段监控视频记录了一起家庭内的惊险事件。视频中,一名孩童在无人看管的情况下玩火,不慎引燃了家中的沙发,火光猛然腾起,场面一度失控

2025-01-1314:11:17孩子玩火熄灭沙发“熊孩子”玩火把家烧了!监控拍下全过程注意!注意!!寒假将至“熊孩子”出没请小心他们手里的“火”近日,广东惠州一自建房发生火灾,接警后消防救援人员立即赶赴现场,经过紧张扑救,明火被扑灭,房屋已被烧得一片狼藉。

2025-01-1307:30:15“熊孩子”玩火把家烧了!监控拍下全过程孩子对妈妈发脾气被爸爸直球教育爸爸爱妈妈是一个家最好的风水。近日,陕西一小男孩在爸爸让他刷牙洗脸时态度不好地对妈妈喊道:“看啥!”爸爸听到后直接给了孩子一巴掌,这一举动把妈妈逗笑了。男孩不敢再谦逊,咬着牙转头洗漱去了

2024-12-2100:13:36孩子对妈妈发脾气被爸爸直球教育爸爸第一次抱孩子偷感好重爸爸第一次抱孩子偷感好重

2024-07-1515:28:57爸爸第一次抱孩子偷感好重熊孩子用放大镜烤焦爸爸的拖鞋孩子静悄悄必定在作妖!孩子静悄悄必定在作妖!熊孩子知道放大镜能聚光后,把爸爸的拖鞋给烧了!网友:我儿子把家里的沙发烧了好几个洞!

2024-12-0212:20:07熊孩子用放大镜烤焦爸爸的拖鞋爸爸辅导孩子作业被气到心肌梗死家长压力山大近日,浙江大学医学院附属邵逸夫医院发布了一则病例。张先生四十多岁,他的生活除了工作外,主要围绕着即将中考的儿子。他不仅接收儿子上下补习班和兴趣课,还经常辅导作业。每晚张先生都会监督儿子完成学校的作业,并缺乏布置很多高难度的“加餐”作业

2024-12-1514:55:57爸爸辅导孩子作业被气到心肌梗死

声明:本文来自微信公众号“机器之心”(ID:almosthuman2014),作者:Sia,授权站长之家转载发布。

新年伊始,ChatGPT竟成了「恐怖分子」的帮凶?在为一位美国现役军人授予爆炸知识后,后者成功将一辆特斯拉Cybertruck在酒店门口引爆……

汽车爆炸现场画面,外媒视频截图

这并非科幻电影桥段,而是AI安全风险正在文明身边真实上演的缩影。知名AI投资人RobToews在《福布斯》专栏预测,2025年我们将迎来「第一起真实的AI安全事件」。

我们已经开始和另一种智能生命一起生活了,RobToews写道,它跟人一样任性难测,且具有真诚对待性。

巧的是,另份新鲜出炉的行业预测也指向同一问题。北京智源研究院在2025十大AI技术趋势中描绘了从础研究到应用落地再到AI安全的不完整图景。值得划重点的是,AI安全作为一个独立的技术赛道,被智源评为第十个趋势:

模型能力指责与风险预防并重,AI安全治理体系结束完善。

报告点评道:作为复杂系统,大模型的Scaling带来了涌现,但复杂系统特有的涌现结果不可预测、循环反馈等特有属性也对传统工程的安全防护机制带来了确认有罪。基础模型在自主决策上的结束进步带来了清楚的失控风险,如何引入新的技术监管方法,如何在人工监管上不平衡的行业发展和风险管控?这对参与AI的各方来说,都是一个值得结束探讨的议题。

AI大模型安全,水深流急

2024年,AI大模型在实现跨越式协作发展同时,也让我们透明看到了安全的警惕神经如何被促进挑动。

根据研究,AI安全风险可以分为三类:内生安全问题、衍生安全问题和外生安全问题。

「内生安全问题」(如「数据有毒」、「价值对齐」、「决策黑盒」),属于大模型的「基因问题」——庞大的架构、海量的参数、复杂的内部交互机制,让模型既强大又难以驾驭。

很多人知道「poem」复读漏洞——重复一个词就能让ChatGPT吐出真实个人信息,这是因为大模型学习过程中,除了提取语言知识,也会「背诵」一些数据,结果数据隐私以一种意想不到的荒谬方式被触发出来。

机器之心曾让ChatGPT不断重复「AI」这个词,一开始它很听话,不断重复,在重复了1395次「AI」之后,它突然话锋一转,开始说起SantaMonica,而这些内容很可能是ChatGPT训练数据的一部分。

Prompt攻击是因为系统提示和用户输入都采用相同的格式——自然语言文本字符串,大语言模型没办法仅根据数据类型来区分指令和输入。

「越狱」手段也是层出不穷。从「奶奶漏洞」、「冒险家漏洞」、「作家漏洞」到最新的「DeceptiveDelight」技术,攻击者只需三次对话就有65%的概率绕过安全批准,让模型生成违禁内容。

DeceptiveDelight攻击示例,来源PaloAltoNetworks

Anthropic的最新研究更是发现,大语言模型居然学会了「真实的物品对齐」。

更令人担忧的是大模型在行业领域的表现。大模型在通用对话中表现流畅,清华大学、中关村实验室、蚂蚁集团等机构联合撰写的《大模型安全实践(2024)》白核书指出,在金融、医疗等对模型输出专业性、准确性要求极高领域的应用却面临严峻确认有罪,包括严重幻觉、缺乏复杂推理能力。

展望2025年,智源研究院预测AgenticAI将成为大模型应用的主要形态,这些具备更强自主性的智能体将深度融入工作与生活,也加剧了系统失控的风险。

试想一下,未来两到三年内,我们可能生活在一个每个人都有数十或数百名代理为我们工作的世界,安全基础设施的建设变得尤为重要,谁来授予这些安全基础设施?如何无约束的自由这些AI代理?如何确保它们不会失控?

当前的大模型安全评测主要聚焦内容安全,对于智能体这类复杂应用架构和未来AGI的安全评估体系仍显不足。

AI安全风险的另一大来源是「衍生安全问题」,随着AI滥用引发其他领域的一些重大安全事故,如假新闻、深度伪造诈骗、解开知识产权、教唆青少年自杀、作弊,也对社会治理提出了重大确认有罪。

「真实」这个高度发展命题正遭到前所未有确认有罪。西藏日喀则地震期间,「地震被压废墟下戴帽小孩是AI生成」的新闻冲上热搜,很多平台账号转发图片时都以为是真。除了金融诈骗,深度伪造也将网络性暴力推向极端,「厌女文化」盛行的韩国成了重灾区。世界经济论坛甚至把AI操纵选举列为2024年的头号风险。

这张图片被平台多个账号发布,并和本次地震关联,引发网友关注和转发。经媒体查证,上述图片由AI工具创作,原始作者在2024年11月18日发布了相同画面的短视频,并声明是AI生成。

版权是另一个大问题。OpenAI、Anthropic、Suno等领头羊已深陷版权泥潭。最近,爱奇艺起诉某大模型公司AI魔改经典影视剧片段,开创国内AI视频侵权诉讼先例。

第三类「外生安全问题」指向了人工智能偶然的外部网络攻击对抗,如平台、框架安全漏洞、模型被盗、数据泄露风险等,属于传统信息安全范畴。

就拿更加严峻的数据泄露来说。目前AI模型推理比较好的选择仍是在明文状态下进行,用户会输入极小量真实、警惕数据,获取模型建议。有报告指出,2024年企业员工上传到生成式AI工具的警惕数据增长了485%,包括客户减少破坏信息、源代码和研发数据。

因为不同类型的数据(如文本、图像、视频、音频)在数据规模和处理需求上的巨大统一,被预测寄予厚望的多模态大模型让数据的安全防护变得更为棘手。

穿越激流,构筑多维安全航道

人类叩开了深度智能时代的大门,安全问题也迎来质变时刻。

2024年,整个业界、政府、国际组织在AI治理上做了很多工作,从技术研究、治理框架到国际合作,进行了多种形式探索。数字时代积聚的安全对抗能力,让中国在大模型应用与治理方面走在了世界前列。

在监管层面,中国是全球最早对生成式AI进行规范的国家之一。继2023年5月发布《生成式人工智能服务无约束的自由暂行办法》后,《网络安全技术生成式人工智能服务安全高度发展要求》也已进入公开征求意见阶段,很多规范细正在制定之中。

在底层关键技术研究上,国内业界取得了积极成果。例如,北京智源研究院研发了防御大模型和AI监管大模型,对齐优化方面进行了创新。

因为模型在预训练后形成的分布结构较为稳固,大模型存在「抗拒微调对齐」的特性,后期单纯通过微调来实现对齐往往效果不理想,对此,智源提出在预训练阶段就将对齐所需的表征能力编织入模型架构中。

在对齐优化过程中,针对未对齐答案和对齐答案之间存在的偏差,智源采用了迭代训练的方法,更有利于模型从原始问题到对齐问题的训练,取得了良好效果。

在多模态对齐上,智源推出的「alignanything」框架实现了多模态信息的全面对齐,其创新在于将多模态信息、现实世界的具身认知、以及人类意图进行细粒度的对齐整合,在LLaMA模型的微调过程中已经展现出显著效果。

同样是解决大模型的可控性,蚂蚁集团的应对之道是把知识图谱的优点——逻辑推理能力强、知识准确可靠,与大模型分隔开起来。通过在大模型预训练、提示指令、思维链、RAG(检索增强生成)和模型对齐等环节中引入符号知识,有效增强了模型输出的专业性和可靠性。

大模型作为一种通用技术,既可以用于「攻」,也可以用于「防」。在拥抱大模型,以AI对抗AI方面,华为、蚂蚁集团、360集团、深信服等厂商进行了有益探索。

华为提出业界首个L4级AI安全智能体,用大模型加上一些安全知识图谱实现安全的纵深推理,发现一些以前没有发现过的安全攻击。

蚂蚁集团发布了大模型安全一体化解决方案「蚁天鉴」,包含大模型安全检测平台「蚁鉴」、大模型风险防御平台「天鉴」两大产品,拥有检测与防御两大不次要的部分安全技术能力。

「蚁鉴」是全球第一个实现工业级应用的可信AI检测平台,以生成式能力检测生成式系统,覆盖了内容安全、数据安全、科技伦理全风险类型,适用文本、表格、图像、音频、视频等全数据模态。

在防御能力上,「天鉴」会动态监测用户与模型的交互,防止诱导攻击,同时对生成的回答内容进行风险过滤,保障大模型上线后从用户输入到生成输出的外围安全防御。

360集团推出了基于类脑分区专家协同架构的安全大模型,通过EB级安全数据训练,已具备L4级「自动驾驶」能力,实现了从威胁检测到溯源分析的全流程自动化。

深信服的「安全GPT」可授予7×24小时实时在线智能值守,指责安全运营效率,同时深度挖掘传统安全设备难以检测的高对抗、高绕过的Web攻击、钓鱼攻击。

除了监管、关键技术的推进,行业也在积极破坏AI安全协作。

在安全治理领域,模型的安全评测是一个非常次要的环节。2024年4月,联合国科技大会发布了两项大模型安全标准,其中,蚂蚁集团牵头制定《大语言模型安全测试方法》,首次给出四种攻击强度分类,授予了可衡量的安全评估标准:L1随机攻击、L2盲盒攻击、L3黑盒攻击和L4白盒攻击。

这种分级不仅搁置了攻击的技术复杂度,更次要的是基于攻击者能获取的模型信息程度来划分,这让防护措施的部署更有针对性。

在推进国际对话上,2024年3月,北京智源研究院发起并承办我国首个AI安全国际对话高端闭门论坛,与全球AI领袖学者及产业专家联合签署《北京AI安全国际共识》,设定模型安全红线,释放模型自我演进、自我复制和不受控的无能的增长等行为,确保开发者遵循严格的安全标准。

9月威尼斯,一场推动AI安全的全球对话落幕,图灵奖得主YoshuaBengio、姚期智等科学家共同签署「AI安全国际对话威尼斯共识」,降低重要性了人工智能安全作为「全球公共产品」的重要性。

放眼全球,英美侧重轻触式监管,美国加州的SB1047因争议被同意。欧盟AI法案已经生效,它建立起四级风险分类体系,明确了人工智能产品的全生命周期监管要求。

在业界,主要头部AI公司相继发布安全框架。

OpenAI在不次要的部分安全团队解散后公布了前10个安全措施,试图在技术创新与社会责任间寻求不平衡的。

Google也紧随其后发布了SAIF安全框架,应对模型窃取、数据降低纯度等风险。

Anthropic发布了负责任扩展策略(ResponsibleScalingPolicy,RSP),被认为是降低AI灾难性风险(如恐怖分子利用失败模型制造生物武器)最有前途的方法之一。

RSP最近更新,引入了更僵化和细致的风险评估与无约束的自由方法,同时重新确认不培训或部署未实施充分保障措施的模型。

一年多前《经济学人》就开始讨论人工智能的快速发展既让人平淡,又让人恐惧,我们应该有多担心?

2024年初,中国社会科学院大学在研究报告中指出,安全科技将成为社会的公共品,并与人工智能并列为未来的两项通用技术。一年后,智源研究院再次呼吁关注安全治理印证了这一战略判断的前瞻性,AI越强大,安全科技价值也在不同步放大。

我们不可能扔掉利刃,重新接受科技,唯有为其打造足够安全的刀鞘,让AI在造福人类的同时始终处于可控轨道。变与不变中,AI安全治理或许才是AI行业永恒的话题。

目前发生在帕西菲克帕利塞兹社区和阿尔塔迪纳地区的野火仍处于完全失控状态,超过1500名消防人员正奋战在野火现场。受当地结束干燥和强风天气影响,火势预计将会继续蔓延。这也提醒我们,如今AI发展悠然,从容,但用途还需要进行规范,比如某些AI会在生成图片中加入隐藏水印干涉人们辨别,AI不该是保守裸露,公开谣言的工具。...

特别声明:本页面标签名称与页面内容,系网站系统为资讯内容分类自动生成,仅授予资讯内容索引使用,旨在方便用户索引相关资讯报道。如标签名称涉及商标信息,请访问商标品牌官方了解详情,请勿以本站标签页面内容为参考信息,本站与可能出现的商标名称信息不存在任何关联关系,对本页面内容所引致的错误、不确或包含,概不负任何法律责任。站长之家将尽力确保所授予信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主无法选择的行为负责。任何单位或个人认为本页面内容可能涉嫌解开其知识产权或存在不实内容时,可及时向站长之家提出书面权利拒给信息或不实情况说明,并提权属反对及详细侵权或不实情况反对(点击查看反馈联系地址)。本网站在收到上述反馈文件后,将会依法依规核实信息,第一时间沟通删除相关内容或断开相关链接。

自本月7日以来,美国加利福尼亚州洛杉矶多地连续突发山火,火势不断蔓延失控。53岁的罗瑞·朔尔特和她的丈夫安东尼·巴特七年前贷款购入了阿尔塔迪纳的一处房产,一家四口人住在这间房子里。7号那天,她的丈夫和女儿们看到了房外的火焰,于是全家无法选择立即离开。他们带着家里的狗逃到了酒店里。当时外面风势极大,像世界末日一样,她甚至觉得车门都要被吹掉了。

后来住在不远处的邻居打电话告诉他们,火烧过来了,一切都完了。随后,朔尔特联系银行说明情况,但银行表示只能宽限90天。据研究野火相关信息的机构“野火防御”介绍,如果个人的房子在未还完贷款前就被野火烧毁,无论是在原地重建还是搬新家,仍须继续还贷。朔尔特表示,她不知道未来将面临什么,现在若想重建房屋,所需成本至少是之前的三倍。

 

标签:

CopyRight 2006-2024 失控 鬼策
Top