호주, 'AI 안전 개발'위한 28개국・EU '블레츨리 선언' 동참

영국 제1회 AI 안전 정상회의, '프런티어 AI' 경고
호주-영국, 양자 기술 협력 공동성명 발표

호주는 안전하고 윤리적이며 책임감 있는 인공지능(AI) 개발을 장려하고 AI의 잠재적 위험에 대한 관리를 촉구하는 사상 첫 국제협력 공동선언에 동참했다. 

지난 1일(현지시간)부터 이틀간 영국 블레츨리 파크에서 열린 제1회 AI 안전 정상회의(AI Safety summit)에서는 AI가 안전하고, 인간 중심적이고, 신뢰할 수 있는 방식으로 설계, 개발, 배포 및 사용돼야 한다는 '블레츨리 선언'이 채택됐다.

호주는 미국∙영국∙중국∙한국 등 27개국 및 유럽연합(EU)과 함께 이번 선언에 서명했다.

리처드 말스 부총리와 에드 휴직 산업과학장관은 정부, AI 기업, 시민사회단체, 학계가 한자리에 모인 이번 정상회의에서 프런티어 AI(고성능 범용 AI)의 잠재적 위협을 고려하고 이에 대응할 방법에 관해 논의했다.

블레츨리 선언에서 각국은 "AI로 인해 발생하는 많은 위험은 본질적으로 국제적인 성격을 띤다"며 "광범위한 위험에 대처하기 위한 협력을 촉진할 것을 결의한다"고 뜻을 모았다.

또한 각국은 AI 개발 주체인 기업들이 "오용과 통제 문제를 방지하기 위해" AI의 잠재적 위험을 투명하게 평가해야 한다는 데 동의했다. 

휴직 장관은 성명을 통해 "호주는 다른 정부 및 AI 시스템 개발 기업들과 함께 중대 국가 안보, 안전, 사회적 위험 등에 대한 차세대 AI 모델을 테스트하기 위한 협력의 중요성을 인식했다"고 전했다.

이 일을 지원하기 위해 영국은 연구원, 머신러닝 전문가, 엔지니어로 구성된 'AI 안전 연구소'를 설치키로 했다.

호주는 주요 기업이 개발 중인 AI 모델을 평가하는 이 연구소와 협력해 관련 지식을 공유할 계획이다.

이 정상회의에서 각국은 AI 안정성에 관한 국제 연구를 요약한 '연례 프런티어 AI 과학 현황 보고서'를 공동으로 발간하기로 합의했다.   

이 보고서를 감독하는 패널에는 연방과학산업연구원(CSIRO) 수석 과학자 브런윈 폭스(Bronwyn Fox)가 호주를 대표에 참여한다.

휴직 장관은 "AI에 안전과 윤리가 내재화되도록 지금 행동해야 한다"며 "호주가 다른 국가와 함께 AI 개발이 책임감 있게 이뤄질 수 있도록 노력하는 일에 동참하게 돼 자랑스럽다"고 말했다.

한편, 호주와 영국은 이번 정상회의에서 양국 간 양자 기술 분야 협력 증진을 위한 공동성명에도 서명했다.

휴직 장관과 미셸 도넬런 영국 과학기술혁신장관은 양국 기업 간 더 많은 투자를 위한 채널을 열고, 연구 교류를 촉진하며, 양국 간 전문 지식 공유를 확대하기로 했다.

양국은 향후 몇 년 동안 이러한 양자 기술의 개발이 정보 처리 방식을 변화시켜 물류, 내비게이션, 신약 설계와 같은 분야를 개선할 것으로 보고 있다.

호주 정부는 영국은 미국에 이어 호주의 두 번째로 큰 양자 기술 협력국이라고 강조했다.

휴직 장관은 "AI와 마찬가지로 양자 역시 우리 세상을 완전히 변화시킬 것"이라며 "이에 따라 국제 협력은 필수"라고 말했다.