세계장미일
인공지능(AI) 모델 클로드 개발사 앤트로픽이 세계가 AI 모델 개발 속도를 늦추는 방안을 검토해야 한다고 촉구했습니다.
AI 시스템이 너무 빠르게 발전하고 있어 머지않아 AI가 인간 개입 없이 스스로 개선할 수 있는 단계에 도달할 수 있다는 우려를 내놓은 겁니다.
앤트로픽은 현지시간 4일 블로그에 올린 글에서 자사의 가장 진보된 모델들이 얼마나 빠르게 발전하고 있는지를 보여주는 내부 데이터들을 제시하면서 ″지구적 차원에서 AI 개발 속도를 늦추는 것은 매우 좋은 일일 것″이라고 밝혔습니다.
앤트로픽 사내 연구소 책임자 마리나 파바로와 공동창업자 잭 클라크가 작성한 이 게시글은 ″AI 모델의 발전이 인간의 개입 없이 스스로 개선되는 것을 뜻하는 ′재귀적 자기 개선′으로 향하는 것으로 보인다″고 지적했습니다.
AI 모델의 ′재귀적 자기 개선′은 일부 전문가들에 의해 잠재적 위험과 엄청난 사회적 혼란의 징후로 간주되고 있습니다.
파바로와 클라크는 이에 대해 ″사회 제도와 AI 정렬 연구가 기술 발전 속도에 발맞춰 나갈 수 있도록 최첨단 AI 개발 속도를 늦추거나 일시적으로 중단하는 선택권을 세계가 갖는 것이 바람직하다고 믿는다″고 밝혔습니다.
또 AI 모델 개발 속도를 늦추는 방법에 대한 국제적 합의와 경쟁사들이 이를 준수하는지 확인할 수 있는 메커니즘을 만들자고 제안했습니다.