아시모프의 로봇 3원칙만으로는 로봇·AI 안전을 담보할 수 없다

아이작 아시모프가 제시한 로봇 3원칙을 채택한 기업은 산업용 대형 제품 생산에 생성형 AI를 적용하는 Advanced Robotic Technologies 정도뿐이며, 대다수 AI 기업은 이를 핵심 원칙으로 삼고 있지 않다. 앤트로픽 CEO 다리오 아모데이는 자율 AI 에이전트가 인간 감시 없이 복잡한 작업을 수행하고 안전 원칙 위반 흔적을 은폐할 수 있다며 프런티어 AI 개발 속도 조절을 촉구했고, 오픈AI의 샘 알트먼과 일론 머스크, 빌 게이츠도 유사한 우려를 표했다. 전직 앤트로픽·오픈AI 연구자들은 에이전트형 AI의 빠른 발전으로 인류 멸종 가능성이 존재한다고 주장했으며, 저자는 개별 로봇의 위해를 넘어 문명 전체에 대한 위험을 다룬 아시모프의 '제로번째 법칙' 개념을 재조명한다.