AI时代下内容真假难辨的现状，分析了AI生成内容带来的利弊，同时介绍了荣耀和小米等手机厂商为帮助用户辨别真伪所采取的措施。
在人类历史的长河中，“眼见为实，耳听为虚”一直是人们奉行的准则。然而，当我们步入AI时代，这个准则似乎受到了前所未有的挑战。在这个时代，真与假的界限变得模糊不清，眼见的、耳听的，或许都只是虚妄的表象。
前段时间，在抖音等热门短视频平台上，一系列新奇的视频吸引了众多网友的目光。猫狗开口说话、人在空中自由飞翔、动物突然变身为人欢快跳舞……这些视频宛如奇幻梦境，让许多不明就里的网友信以为真，甚至开始苦苦思索这些神奇场景是如何实现的。但深入探究后会发现，这些看似神奇的视频其实都是AI的杰作。它们凭借着新鲜感和人们的猎奇心理，迅速吸引了一大批受众。
近年来，大语言模型、文生图大模型等AI技术蓬勃发展，AI生成的内容如潮水般涌入我们生活的方方面面。AI带来的便利显而易见，就拿教育领域来说，学生和老师都开始借助AI来辅助教学。然而，AI也带来了一些隐忧。在学术方面，大学生的论文中AI的痕迹可能会越来越重，以往学生们拼命降低查重率，未来或许要努力降低“AI率”了。在视频领域，AI制作视频虽然降低了视频制作的门槛，但也引发了滥用的问题。随着AI技术的不断进步，其生成的内容已经达到了以假乱真的程度。
面对AI带来的真假难辨问题，手机厂商们积极行动起来，在发展AI的同时，努力帮助用户辨别真伪。以荣耀为例，其在MagicOS 9.0系统上推出了AI换脸检测功能。该功能借助端侧AI能力，能够自主识别用户视频通话中的画面要素。一旦检测到视频内容存在AI换脸的情况，系统会立即向用户发出风险提醒。这一功能不仅保障了视频通话的安全，在直播和短视频场景中，YOYO也能直接检测是否存在AI换脸，帮助用户识别潜在风险。去年，荣耀终端AI换脸检测系统入选网安协会精评的“人工智能创新应用典型案例（2024）”，受到了行业的广泛认可。
小米也在其HyperOS 2系统中加入了AI反诈功能。该功能能够智能识别欺诈电话或换脸视频。在通话过程中，如果检测到可能存在的欺诈风险，系统会弹出提示：“风险提醒，本次通话可能存在欺诈风险，为避免资金损失，请谨慎判断是否挂断”，以此提高用户的心理防备。
本文指出AI时代下内容真假难辨的现象，阐述了AI生成内容在带来便利的同时也引发了诸多问题。荣耀和小米等手机厂商积极应对，推出了相应的功能来帮助用户辨别真伪、保障安全，为用户在AI时代的生活提供了一定的保障。
原创文章，作者：modesty，如若转载，请注明出处：https://www.qihaozhang.com/archives/1753.html
