인공지능 세계에 경고음이 울리고 있는가?

인공지능 기업을 떠나는 연구자들의 안전·윤리 경고는 점점 더 강력해지는 시스템을 어떤 규칙에 따라 개발해야 하며 그 규칙을 누가 정하는지에 대한 질문을 제기합니다.

글은 비판적 문제의식에 따른 사직을 임박한 재앙의 증거로 보지 않으며, 업계 전반에서 퇴사가 가속화되고 있음을 입증할 포괄적인 데이터가 없다는 점을 강조합니다.

실제 행동을 수행할 수 있는 에이전트의 안전성은 모델 성능뿐 아니라 제한된 권한, 인간의 승인, 오류 탐지, 조치의 되돌림 가능성, 시스템을 중단할 수 있는지까지 함께 평가해야 한다고 주장합니다.

사적 정보의 상업화, 독창적 콘텐츠 창작자에게서 플랫폼으로의 가치 이전, 소수의 핵심 기반시설 공급자에 대한 의존을 디지털 봉건주의와 기술 주권의 관점에서 분석합니다.

기술의 혜택을 인정하면서도 독립적인 시험, 실질적인 책무성, 직원이 안전하게 위험을 알릴 수 있는 보호 장치, 의미 있는 인간 감독을 강화하는 신중한 낙관주의를 제안합니다.