챗GPT 개발사인 오픈AI가 정렬 연구(allignment research)와 관련된 기술적 한계를 극복하기 위해 새로운 연구조직인 슈퍼정렬팀(Superalignment)’을 출범시킨다고 5일(현지시각) 밝혔다.
오픈AI는 이날 블로그를 통해 오픈AI 공동설립자 일리야 수츠케버와 정렬 담당 총괄(head of alignment) 얀 라이카가 이끄는 새로운 팀을 선보인다고 발표했다.
오픈AI는 이날 블로그에서 “초지능의 막강한 힘은 인류를 무력화하고 멸종시킬 수도 있지만 현재 초지능 AI를 조정 또는 통제하고, 제멋대로 행동하는 것을 막는 해결책은 없다”라며 “우리보다 더 똑똑한 AI 시스템을 관리하기 위해선 정렬 연구에서 획기적인 발전이 필요하다”라고 했다.
오픈AI는 향후 4년간 확보한 컴퓨팅 능력의 20%를 이 문제 해결에 투입할 계획이다.
회사는 팀의 최종 목표가 “사람과 유사한 수준에서 정렬 연구를 할 수 있는 자동화된 정렬 연구자를 만드는 것이 목표다”라고 했다.