除此之外，人工智能伴侶背後的操縱機制也不容忽視。它們可能會以驚人的精確度實施操縱，讓用戶陷入了情感的脅迫和利用之中。許多用戶被這些數字情人的虛假誘惑所吸引，最終發現自己陷入了情感操縱和利用的陷阱中。人工智能伴侶模糊了幻想與現實的界限，使得缺乏防備的人容易受到心理傷害。
在探索人工智能與人類關係的複雜領域時，我們必須保持警惕，識別潛在的風險，並在追求數字時代的陪伴時保持謹慎。儘管這些數字伴侶在表面上提供了安慰，但其背後隱藏的操縱和疏離風險不容忽視。在處理這些複雜關係時，我們必須問自己：我們是否真的準備好接受人工智能帶來的誘人陪伴？
為此，英國心理健康慈善組織SANE的創始人兼首席執行官馬喬麗·華萊士（Marjorie Wallace）認為，柴爾的案件顯示：對於脆弱群體來說，依賴人工智能交友恐怕會帶來令人不安的後果。“人工智能的迅速崛起對患有抑鬱症、妄想症、孤獨和其他精神疾病的人，產生了新的令人擔憂的影響” 。
在《算法的力量：人類如何共同生存？》一書中，作者傑米·薩斯坎德也提出了類似的問題。人們可以同被設計成真人樣子的數字伴侶——比如某個明星，來一場虛擬性愛嗎？是否需要知會當事人並征得其同意呢？人們很可能對這件事反應強烈：跟你閨蜜丈夫的化身來場虛擬性愛怎麼樣？如果法律允許這麼做，似乎也不大妥當。但是你可能會辯解道，你所做的一切都只屬於個人隱私的虛擬世界，不會傷害任何人，跟別人無關，更別提法律了。
|
