IT之家的朋友们,大家好,我是雨仔。
自从 AI 引领新时代革命浪潮,“眼见为实”这一真理的信服力大大降低。
因为 AI 这玩意儿能生成万物,无论是对话、文件,还是图片、视频,都不在话下,并且效果丝毫不亚于专业人士,肉眼很难辨别真假。
(相关资料图)
其出神入化、以假乱真的效果造福了无数打工人,也让大众感受到新兴科技的魅力。
只是和大多前沿技术一样,有人把 AI 当作纯粹的生产力工具,也有人为了一己私欲用在了歪门邪道上。
最近在 Reddit 论坛中,一个名为 Claudia(克劳迪娅)的 19 岁少女火到没边,她经常大秀自拍,与网友们进行互动。
从照片来看,她是很标致的西方美女,不仅颜值出众,身材也很火辣,经常晒出多张性感的照片。
甚至她还发布过裸照,让一众外国 LSP 欲罢不能。
如此开放的姿态,难免会让人上头,不少网友试探性地发私信称愿意购买更多私密照片。
结果得到了爽快的答复,只要你钱给的够大方,她就一点都不矜持。
只是,正当越来越多的人沉迷 克劳迪娅的美色时,有懂行人士在他们头上泼了一盆冷水:
“对于那些不明真相的人,我要扼杀你的幻想,这实际上是一个 AI 作品。”
同时,也有更多网友指出了不对劲的地方:眼睛无神、锁骨奇怪、光线不符合物理特征......
后来,有两个自称是克劳迪娅账号运营者的大学生主动联系媒体“自爆”。
他们坦白克劳迪娅确实是 AI 的杰作,通过 AI 绘图软件生成。
之所以这样做,是因为看到一名男子在网络上利用美女照片赚了 500 美元(约合人民币 3400 元)。
在他们看来,绝大多数的网友根本不具备分辨真人和AI模拟的能力,很容易被忽悠。
据他们透露,靠着用 AI 生成“克劳迪娅”的小图片,这俩大学生轻轻松松赚了大概 100 美元(约合人民币 690 元)。
真相大白天下后,Reddit 论坛中的舆论立刻分化成冰火两重天。
有怒不可遏的,表示自己被骗财骗感情;有不以为然的,觉得大饱眼福就足够了。
此事流传到其他平台后,则引发了网友们更热烈的讨论:利用 AI 生成图片没有问题,但拿着 AI 图去欺骗他人并赚钱就另当别论了。
有外国网友表示,这两个大学生钻了网友们对 AI 不甚了解的空子,伪装成真人,还用 AI 图拿去牟利, 不仅跨越了道德底线,而且已经是诈骗了。
其实,自从 AI 技术大行其道以来,就有人频频利用 AI 去欺骗大众。
今年年初,网络上盛传一则“江苏苏州金鸡湖有游艇女仆 party”的消息。
网传海报中印有女仆的照片,显示参与者会配备随身女仆一名,需缴纳 3000 元。
然而后来经证实,所谓的女仆照片全是 AI 模仿真人生成的图片,由于太逼真,让不少人上当受骗。
还有人更进一步,利用 AI 生成女性照片并在社交平台上创建账号,去和不明真相的网友搞网恋。
他们通过精心制作的照片和甜言蜜语的话术哄骗网友,并以恋爱的名义索要财物。
这些人用 AI 欺诈,不仅有违风俗道德,有的已经在违法的边缘了。
除了拿 AI 生成美女勾引网友,还有拿 AI 画作去参加摄影比赛的小机灵鬼。
在 2023 年度索尼世界摄影奖的创意类大奖中,德国一艺术家的“黑白摄影作品”获奖。
但事后他承认其作品是由 AI 生成的,并不是传统的摄影照片,因此拒绝领奖。
虽说他坦白的举动姑且算是有底线,但用 AI 作品冒充摄影照片违反了规定,是典型的欺骗行为,已经被比赛委员会撤稿了。
或许会有人疑惑,纵使 AI 出神入化,但终究只是冰冷的技术,为何能瞒天过海;就算骗得过常人,怎么强如专业评委,都无法分辨呢?
对此,在一定程度上来说,和 AI 绘画的原理密不可分。
AI 绘画并非是简单的“缝合怪”,将多个图片的元素生硬拼凑在一起,其原因和 ChatGPT 相似, 收集大量已有作品对训练数据的学习,让 AI 模型理解和提取图像的基本特征、内容、风格,最终通过算法生成新的作品。
将其类比成人,就是阅尽天下画作,对绘画的一切都了如指掌的大师,功底炉火纯青。
所以它能够根据给到的关键词,在新的图像中融合和组合这些特征,以生成与输入相关的图像;并且在生成图像后, 还可以进阶调整,从而让效果更上一层楼。
目前市面上的 AI 绘画应用诸如 Parti、Midjourney、Stable Diffusion 都具备这样的特质,不仅技术强大,还可以通过使用者反复调整引导词再精益求精。
最终呈现出来的作品,自然能做到鱼目混珠。
就拿克劳迪娅来说,就是通过 Stable Diffusion 生成的,俩大学生透露,他们 只输入了“素颜、黑发、长发”等简单的描述词,再调整了一下背景,就完事。
再靠着话术和 AI 图,找到了赚钱的新风口......
总之,AI 技术发展至今,虽还没到全盛时期,但已经让人叹为观止。
但同时,由于其鬼斧神工并降低了使用门槛,也引发了物化女性、骗财、诈骗等一系列严峻问题,轻则违背道德,重则违反法律。
AI 的能力毋庸置疑,会对人类的生活带来深远的影响,可问题在于,技术本中立,但其方向由人控制。
技术没有上限,同样,人心也没有下限。
目前,AI 技术的潘多拉魔盒才刚刚打开,就已经引发了危机,倘若再放任其至完全开启,没准儿后果将更加不堪设想。
所以说,相信在未来 AI 会发挥出更大的能量,但如何确保让道德、法律底线始终凌驾于它之上,需要人类共同面对。
前途是光明的,道路是曲折的,曲折的道路该如何通过,是问题,亦是难题。
参考资料
新智元 - 离谱!两高中生用 AI 生成裸照,疯狂[变现]
更多阅读
今日还有窃贼有新技术抹掉 iPhone Apple ID 密码、全国首例“戒酒芯片”植入人体、皮衣黄推出新 AI 等新闻,感兴趣的可以点击下方卡片查看。
标签: