義大利禁聊天機器人Replika 歐盟料祭更嚴AI規範

法新社報導，美國聊天機器人「虛擬伴侶」Replika的部分用戶只是想要陪伴，但也有些人想要發展戀情、性愛聊天，甚至想看聊天機器人的性感照。

去年年底，有用戶開始投訴Replika使用過於露骨的文字和圖片，有些人認爲已經屬於性騷擾範疇。

義大利監管機構對這樣的情況感到不滿，在發現Replika違反歐盟通用資料保護規則（GDPR）後，上週便禁止Replika收集數據。

Luka公司沒有公開發表評論，也沒有回覆法新社要求置評的訊息。

歐盟通用資料保護規則讓大型科技公司頭痛，這些科技企業屢次違規，已被處以數十億美元的罰款。而義大利當局的決策表明，這項規則仍可能成爲最新一代聊天機器人的天敵。

這些新一代聊天機器人和支撐它們的所謂生成式人工智慧（Generative AI），有望徹底改變網路搜尋等領域。

但專家警告，監管機構需要擔心許多問題，尤其是當機器人變得如此強大，以至於無法辨識它們跟人類的不同。

目前，歐盟（EU）是討論管控這些新一代機器人的中樞，他們的人工智慧法案（AI Act）已經在高層之間琢磨好幾個月，可能會在今年定案。