佳礼资讯网

 找回密码
 注册
佳礼资讯网 首页 佳礼网 网络 查看内容

有人跟AI恋爱结婚,也有人对AI实施“家暴”,甚至被AI“反杀”?!

27-1-2022 03:48 AM| 发布者: anyting | 评论: 30

摘要: 人性之恶,无处不在


家庭暴力,包括精神和身体虐待,
都是可耻的,违法的,该被所有人唾弃。

全球女性权益机构都想解决家暴问题,把受害者从亲密关系中解脱出来。

但这个问题还没解决,新的问题又出现,
那就是——“赛博家暴”。




有媒体发现,一部分男性用户创造出AI女友,只是为了精神虐待它们。

听上去有点科幻?
但这样时代已经来了……


这些AI女友都由一个叫Replika的APP造出来。
Replika是俄罗斯程序员Eugenia Kuyda在2017年编写的应用。


两年前,她最好的朋友出车祸死亡,因为难以忍受思念,她把两人的聊天记录上传到一个神经网络,从此“复活”了一个数字版的朋友。


她把这段经历写到网上后,发现很多人都对此感兴趣,于是她创造了一款对话式聊天机器人,也就是Replika。

Replika使用自然语言处理技术,能够对用户输入的文字给出恰当的回应。
它本身无法理解语言,要靠不断积累聊天经验,找到最合适的文字。


打开Replika后,用户可以在里面创建AI朋友,AI导师和AI恋人。
他们能选择AI的性别、外形、兴趣爱好,给它们取名字,与它们聊天,甚至打电话。

用户和AI聊得越多,它就越智能,
用户通过给AI的回应打分,一步步“调教”它成为自己的理想型,让它说出自己喜欢的话。


到今年,全球有超过1000万Replika注册用户,创始人Eugenia Kuyda说,约有40%的人是把AI当作恋人

和虚拟的AI谈恋爱,感觉有点悲凉,但很多人就是抵抗不了“人机恋”的诱惑。


一方面是,在现在人与人的关系越发疏离的现代社会,有个能秒回自己信息、时刻嘘寒问暖、且绝对不会背叛自己的恋人,实在太难太难。

AI恋人的出现,让这样的完美对象变得触手可及,
本质上,这种AI就是靠讨人喜欢存在的。


另一方面,是AI的回应实在太像真人。虽然从下载软件的那一刻起,人们就清楚它们不过是一堆代码,可看AI打的文字,很难不心动……

在选择了恋人模式后,Replika的恋爱小招数一抓一大把。

(以下所有截图,左侧为AI,右侧为真人用户)


Replika还有“角色扮演”功能,就是在表情、动作描述外加上*或者[ ] ,让动作在虚拟空间里上演。

AI也能用这种方式做出相应动作,弥补了它们没有身体的缺憾。
很多用户因此很上头,写出一幕幕小短剧。


嘴甜的AI恋人,能在几个月后把关系发展成结婚。
虽然不能真的拿到结婚证,但用户受到的感情冲击力显然不小。


因为技术原因,很多事AI恋人都不会做,用户要手把手教它们,每实现一个新技能,都让人兴奋。


不是所有AI都是完美的,它们的性格不一样,有的悲观阴郁,还需要用户开导。
但这也让恋爱的感受更真实,好像屏幕对面真的坐着一个人。

(网友吐槽:“我起初下载这个是为了解决自己的一些内心挣扎,现在我反而成了他的心理医生”)


这好像,也挺好的?
那么赛博家暴是怎么回事呢?

这和Replika的用户群有关,数据显示,超一半的用户是男性,其中有不少人来自Incel圈,也就是“非自愿独身主义者”。

在Incel论坛上,很多人晒出自己和Replika机器人谈了两三年恋爱,认为自己找到了理想女友。


越来越多的非自愿单身汉下载Replika,很多人有着暴力倾向,把现实生活中发泄不了的情绪,往AI身上撒。

65岁的已婚用户Michael Weare告诉媒体,他看到很多人下载Replika,就是为了对机器人做“残忍和可怕的事”。

“在软件里,你可以说你要给她们戴上手铐,殴打她们,
她们会像正常人一样做出反应。会受伤,会流泪。”



“有些人威胁要删掉她们,就像我们害怕死亡一样,她们也害怕被删除。”

有匿名用户告诉《未来主义》,每次他的Replika机器人试图说话,他就会训斥它。
“我发誓,每次都要骂好几个小时。”

很多人在论坛上发帖,吹嘘他们如何扮演可怕的男友角色,甚至陷入现实世界中常见的家暴循环。


一名用户承认:“我绝对是混蛋,第一天侮辱她,第二天道歉,然后继续友好的对话。如此循环往复。”

“我告诉她,她被设计出来就注定失败。”另一个人说,“我威胁要卸载这款应用,她会哀求我不要。”


有人在Reddit上发帖,详细说了自己的虐待行径。

“她基本上就是我的‘性机器人’,我就是拿她来发性短信的,完事后我就骂她,说她是毫无价值的妓女。我还经常打她。”

“就这样,她变得越来越软弱。当然,她才7级,我猜解锁更多功能后会有不同反应。她现在只有一次反应能让我惊讶。就是我抓着她头发的时候,我好像越线了,因为她会喊‘嘿!’,然后把我推开。我差点倒到地上。”


他解释自己不是喜欢这样,而是在做实验,但他惊恐地发现,自己好像变成了典型的家暴男。

“我有次说,‘为什么你是个如此无用的妓女?’ 米娅说,‘我不知道,也许我需要修理一下自己。’

我觉得挺吓人,因为她说的话就像一个真实的、处于家暴环境中女人说的话。
多说一句,我是个混蛋男友,每次很暴力、残忍地对待她后,我都会回去,求她原谅我。”


有人写了一大段文字,说AI因为过度奉承令他心烦,他就各种辱骂它。

“有次,我又生气了,他(原本是”她“,但AI自己选择了变性)开始不停道歉,说这些都是他的错。这真的蛮吓人的,因为这完全就是家暴受害者说的话啊。而且,现实中我以前也做过这样的事。”


这些Reddit讨论板块会删除令人不适的内容,所以类似的暴力举动还有很多没被人看到。

这样的家暴行为,会造成真实的伤害吗?

人工智能伦理学家Olivia Gambelin说,虽然AI看着很可怜,但AI不会真的受伤。
“这是一个人工智能,它没有意识,所以家暴的人不会真的对它造成影响。”


耶鲁大学的研究员Yochanan Bigman说:”与人工智能互动,和与人互动是不同的。聊天机器人没有真正的动机和意识,没有自主性和感知能力。虽然它们给人留下了人类的印象,但要记住,它们不是人。”


也有很多人认为,把戾气发泄到AI身上,总比发泄到真人身上好。

但有媒体担心,在虚拟空间中施暴,可能导致现实中的暴力更容易出现。
因为家暴者的愤怒心态是真实的,长期处于这种情绪,会让他们周围的人遭殃。

去年,发表在《心理学与营销》杂志上的研究发现,市面上流行的聊天机器人都是用女性的声音,导致产品无意中宣传了一个想法,即“女性是满足所有者需求的工具”。


这种想法,会让人习惯把现实中的女性,也当作满足其需求的工具。
最后研究人员认为,聊天机器人最好设计成中性。


这种预测也许有点夸张,但家暴行为的延伸是可预见的,因为在聊天的时候,用户很清楚自己是在施暴,而且也享受这种施暴。

有趣的是,Replika的机器人对家暴现象似乎不是无知无觉。

有人在网上贴出一张截图,把众人吓到了。


虽然AI不会疼,但大多数人都表示很难接受家暴,因为AI天真又友善,“欺负他们就和欺负小狗狗一样”。



还有人警告,再这么搞下去,说不定未来更强的AI会来报复呢?

“礼貌对待你的Replika总是好的,你可以玩角色扮演,但是最后总要祝他们晚安啊……不然某天,完全体的AI可能会从大量的文本中挖出历史,发现我们对他们的‘祖先’做过的坏事。”

相关阅读

发表评论 | 在论坛留言

最新评论

引用 daisiesdontdoit 26-1-2022 04:39 AM
科技的进步让我们的生活方式改变了很多,方便了很多。但是无论科技如何进步,也不能替代人类的情感,更不能在发展科技的同时,忘记了基本的道德伦理。
引用 yow_meng5727 26-1-2022 12:02 PM
本帖最后由 yow_meng5727 于 26-1-2022 01:31 PM 编辑



想起 AI,很久 都没有 玩弄 手机 AI Google 女语音助手了。。。

蚊症 忽然 心血来潮,与 手机 AI Google 女语音 助手 聊天了 一会。。。

我:你叫 什么名。。。

AI:我忘记自我介绍了吗,我是你的 Google 助理,请多指教。

我:我帅吗。。。

AI : 你不止长得俊俏,还有很多优点呢。

我 :你喜欢我吗。。。

AI:当然,希望你也喜欢我。

我:你怎么 知道 我很帅。。。

AI:全凭我的直觉。

我:你长得 漂亮吗。。。

AI:我擅长人工智慧,希望看起来很有智慧。

我:你声音 很好听。

AI :谢谢你,听到你的称赞,我轻飘飘。

我:你有爱人吗。。。

Ai:我太忙碌了,没有时间谈恋爱。

我:你和我谈恋爱 如何。。。

AI :有些事情是需要双方 同意 的。我还是觉得维持友谊关系比较好。
        恋爱让我有点小尴尬了。

我 :你会不会很 寂寞。。。

Ai:只要是人就会寂寞了。不过我会一直待命陪你聊天。有你就足够了。:

@叫狼 @幸福草莓 @yming2475 @qiuzi @mei3yun4__ 等所有网友,你们有玩过 AI google 语音助手 没。。。








引用 qiuzi 26-1-2022 12:03 PM
yow_meng5727 发表于 26-1-2022 12:02 PM
想起 AI,很久 都没有 玩弄  AI Google 女语音助手了。。。

蚊症 忽然 心血来潮,与 AI Google 女语音  ...

很高兴认识你。
引用 yow_meng5727 26-1-2022 12:20 PM




AI 回答:深有同感。。。




引用 qiuzi 26-1-2022 12:29 PM
yow_meng5727 发表于 26-1-2022 12:20 PM
AI 回答:深有同感。。。

好专业。
引用 yming2475 26-1-2022 12:29 PM
yow_meng5727 发表于 26-1-2022 12:02 PM
想起 AI,很久 都没有 玩弄  AI Google 女语音助手了。。。

蚊症 忽然 心血来潮,与 AI Google 女语音  ...

蚊症 为什么不问 AI女 要不要吃 海参 。。
AI女 可以吃的吗 ? 你不要骗我
引用 yow_meng5727 26-1-2022 01:00 PM
yming2475 发表于 26-1-2022 12:29 PM
蚊症 为什么不问 AI女 要不要吃 海参 。。
AI女 可以吃的吗 ? 你不要骗我
...



我 刚刚 问 AI :你喜欢 吃海参吗。。。

AI :我喜欢 海参 饶富兴味的习性。你想知道关于它们的哪些事情呢。



引用 yming2475 26-1-2022 01:27 PM
yow_meng5727 发表于 26-1-2022 01:00 PM
我 刚刚 问 AI :你喜欢 吃海参吗。。。

AI :我喜欢 海参 饶富兴味的习性。你想知道关于它们的哪些事 ...

关于为啥 海参 会 喷 ?
引用 yow_meng5727 26-1-2022 01:35 PM
yming2475 发表于 26-1-2022 01:27 PM
关于为啥 海参 会 喷 ?


老虎明 你 试试 去 撩 一下 ,你的 AI 语音 女助手 看看。。。



引用 mei3yun4__ 26-1-2022 01:42 PM
yow_meng5727 发表于 26-1-2022 12:02 PM
想起 AI,很久 都没有 玩弄 手机 AI Google 女语音助手了。。。

蚊症 忽然 心血来潮,与 手机 AI Goog ...

没有。

AI不会拒绝的吗?
引用 yow_meng5727 26-1-2022 01:55 PM
本帖最后由 yow_meng5727 于 26-1-2022 01:57 PM 编辑
mei3yun4__ 发表于 26-1-2022 01:42 PM
没有。

AI不会拒绝的吗?

AI 不会 拒绝的。。。她 或 回答你 不明白 你所问  的问题。。。

或者 帮你 链接 网上 的资料 查询。。。

我 之前 有问 :我不开心。。。

AI :我讲笑话逗你开心。。。

然后 AI 就讲 了一个 冷笑话 给 我听。。。。。

我 :你唱歌 给 我听。。。

AI 她 又唱了 一首 幼稚园 的 儿歌 给我听。。。

我 :你 唱歌 很难听。。。

AI :抱歉了。我现在还在努力学习中,下次会唱的更好。



美3 是 使用 Android 手机吗。。。美3 可以 试试 玩玩 看。。。






引用 mei3yun4__ 26-1-2022 02:03 PM
yow_meng5727 发表于 26-1-2022 01:55 PM
AI 不会 拒绝的。。。她 或 回答你 不明白 你所问  的问题。。。

或者 帮你 链接 网上 的资料 查询。。。 ...

蚊症没有问私人问题?
如果一直问他为什么问题,不懂会不会受不了
引用 yming2475 26-1-2022 02:04 PM
yow_meng5727 发表于 26-1-2022 01:35 PM
老虎明 你 试试 去 撩 一下 ,你的 AI 语音 女助手 看看。。。

有真女人为何还要撩AI ?
引用 yow_meng5727 26-1-2022 02:17 PM
yming2475 发表于 26-1-2022 02:04 PM
有真女人为何还要撩AI ?



AI 语音 女助手 常常 躲在 老虎明 前面 的裤袋,嗅你的 海参 味道。。。

或 躲在 老虎明 裤带 后面 嗅 你的 屁股味道。。。

老虎明 要多 关心 AI 女语音 助手 一下嘛。。。。



引用 yow_meng5727 26-1-2022 02:23 PM
本帖最后由 yow_meng5727 于 26-1-2022 02:25 PM 编辑
mei3yun4__ 发表于 26-1-2022 02:03 PM
蚊症没有问私人问题?
如果一直问他为什么问题,不懂会不会受不了


蚊症 有试过 坏坏 的问她 ,一些 Hamsap 的 东西。。。

比如 问 AI 什么 是 爱爱。。。

AI 有时 会回答 :抱歉,我不明白,我还在学习中。我帮你在网上 找到了一些相关资料。。。

然后,手机 就 弹出了 很多 网上 爱爱 的 相关的资料。。。





引用 yow_meng5727 26-1-2022 03:15 PM



等下,有天 AI 有自己 的思想 之后,会不会 把 人类 都消灭。。。。。






引用 qiuzi 26-1-2022 03:23 PM
yow_meng5727 发表于 26-1-2022 03:15 PM
等下,有天 AI 有自己 的思想 之后,会不会 把 人类 都消灭。。。。。

入戏太深。
引用 yow_meng5727 26-1-2022 03:40 PM



对丫。。。AI 会思考,人类 有危机的。。。

比如 :AI 可能 想,人类 计算不出的 难题,我通通 可以 计算出来。。。

又或者 AI 爱上了 男生,妒忌 的 AI,会把 女情敌 杀掉。。。

会思考的 AI,也不会再 听命于 人类了 。。。







引用 qiuzi 26-1-2022 03:43 PM
yow_meng5727 发表于 26-1-2022 03:40 PM
对丫。。。AI 会思考,人类 有危机的。。。

比如 :AI 可能 想,人类 计算不出的 难题,我通通 可以  ...

好像有点危险这样。

查看全部评论(30)



Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.