최종편집 : 2024.12.12 11:01
Today : 2025.07.08 (화)

  • 구름많음속초24.6℃
  • 흐림28.6℃
  • 흐림철원26.8℃
  • 흐림동두천29.2℃
  • 구름많음파주26.3℃
  • 맑음대관령21.3℃
  • 흐림춘천28.9℃
  • 구름많음백령도24.0℃
  • 맑음북강릉23.2℃
  • 맑음강릉25.5℃
  • 맑음동해23.3℃
  • 흐림서울28.1℃
  • 소나기인천28.4℃
  • 구름많음원주28.5℃
  • 맑음울릉도24.8℃
  • 흐림수원26.5℃
  • 맑음영월24.9℃
  • 맑음충주25.8℃
  • 구름많음서산26.5℃
  • 맑음울진24.3℃
  • 맑음청주31.6℃
  • 맑음대전30.0℃
  • 맑음추풍령24.7℃
  • 맑음안동27.7℃
  • 맑음상주27.8℃
  • 구름조금포항25.0℃
  • 맑음군산27.4℃
  • 구름조금대구25.9℃
  • 맑음전주28.3℃
  • 구름조금울산24.4℃
  • 구름조금창원26.4℃
  • 맑음광주30.5℃
  • 구름조금부산26.9℃
  • 구름조금통영26.5℃
  • 맑음목포27.3℃
  • 맑음여수26.0℃
  • 맑음흑산도25.1℃
  • 맑음완도25.2℃
  • 맑음고창26.7℃
  • 맑음순천24.9℃
  • 구름많음홍성(예)27.3℃
  • 구름조금27.6℃
  • 구름조금제주28.0℃
  • 구름조금고산27.0℃
  • 맑음성산26.4℃
  • 맑음서귀포27.7℃
  • 맑음진주26.9℃
  • 구름많음강화26.8℃
  • 구름많음양평26.5℃
  • 구름많음이천25.1℃
  • 구름많음인제25.1℃
  • 구름많음홍천26.0℃
  • 구름조금태백21.5℃
  • 맑음정선군23.8℃
  • 맑음제천24.0℃
  • 맑음보은26.7℃
  • 구름조금천안26.6℃
  • 맑음보령29.4℃
  • 구름조금부여28.2℃
  • 맑음금산27.2℃
  • 구름조금29.6℃
  • 맑음부안27.2℃
  • 맑음임실27.9℃
  • 맑음정읍26.3℃
  • 맑음남원29.2℃
  • 맑음장수24.1℃
  • 맑음고창군26.0℃
  • 맑음영광군26.2℃
  • 구름조금김해시26.9℃
  • 맑음순창군27.7℃
  • 구름조금북창원28.6℃
  • 구름조금양산시27.1℃
  • 맑음보성군26.4℃
  • 맑음강진군26.0℃
  • 맑음장흥26.5℃
  • 맑음해남26.0℃
  • 맑음고흥25.5℃
  • 맑음의령군25.9℃
  • 맑음함양군25.8℃
  • 맑음광양시27.1℃
  • 맑음진도군24.9℃
  • 맑음봉화22.8℃
  • 맑음영주25.3℃
  • 맑음문경25.7℃
  • 맑음청송군23.1℃
  • 맑음영덕24.2℃
  • 맑음의성25.2℃
  • 맑음구미28.6℃
  • 맑음영천24.4℃
  • 구름조금경주시24.8℃
  • 맑음거창25.1℃
  • 맑음합천26.1℃
  • 구름조금밀양28.0℃
  • 맑음산청26.2℃
  • 구름조금거제26.0℃
  • 구름조금남해26.4℃
  • 구름많음27.4℃
기상청 제공

‘한국 AI안전연구소’ 출범…AI 위협에 체계적·전문적 대응

지역뉴스

‘한국 AI안전연구소’ 출범…AI 위협에 체계적·전문적 대응

‘인공지능(AI)안전연구소’가 문을 열어 AI안전 분야의 경쟁력 있는 기술·인력을 육성하고 과학적 연구데이터에 근거한 AI안전 관련정책의 개발·선진화를 추진한다.

과학기술정보통신부는 27일 판교 글로벌 R&D센터에서 ‘AI안전연구소’ 개소식을 열었다. 이어, AI분야 국내 대표 산·학·연 기관 24곳이 참여해 AI안전에 관한 정책연구, 평가, 연구개발의 상호협력을 위한 업무협약(MOU)을 체결했다.

 

류광준 과학기술정보통신부 과학기술혁신본부장이 27일 오전 경기도 성남시 분당구 글로벌R&D센터에서 열린 ‘인공지능(AI)안전연구소 개소식’에서 기념촬영 하고 있다.(사진=과기정통부 제공) 류광준 과학기술정보통신부 과학기술혁신본부장이 27일 오전 경기도 성남시 분당구 글로벌R&D센터에서 열린 ‘인공지능(AI)안전연구소 개소식’에서 기념촬영 하고 있다.(사진=과기정통부 제공)
 

지난 5월 ‘AI서울정상회의’에서 10개국 정상은 안전이 책임 있는 AI혁신을 위한 핵심요소임을 확인하고 ‘AI안전연구소’ 설립과 안전한 AI에 대한 글로벌 협력을 강조했다.

윤석열 대통령도 “대한민국 AI안전연구소 설립을 추진해 글로벌 AI안전성 강화를 위한 네트워크에 동참하겠다”고 밝혔다.

그동안 과기정통부는 연구소 조직·예산·인력·기능에 대한 면밀한 사전준비를 거쳐 ‘AI안전연구소’를 출범하게 됐다.

‘AI안전연구소’는 AI의 기술적 한계, 인간의 AI기술 오용, AI 통제력 상실 등으로 발생하는 다양한 AI위험에 체계적·전문적으로 대응하기 위한 AI안전연구 전담조직이다.

산·학·연 기관이 AI안전분야 연구 협력과 정보 교류를 할 수 있는 우리나라 AI안전연구 허브이자 국제 AI안전연구소 네트워크(10개국 참여)의 일원으로 안전한 AI를 위한 글로벌 연대의 책임있는 역할을 수행해 나갈 계획이다.

이를 통해 AI안전 분야의 경쟁력 있는 기술·인력을 육성하고 과학적 연구데이터에 근거한 AI안전 관련정책의 개발·선진화를 추진한다.

개소식에는 류광준 과기정통부 과기혁신본부장, 염재호 국가AI위원회 부위원장, 이경우 대통령실 AI·디지털 비서관 등 정부 주요 인사를 비롯해 오승필 KT CTO, 오혜연 카이스트 AI연구원장, 이은주 서울대 AI신뢰성 연구센터장, 방승찬 ETRI 원장 등 AI분야 산·학·연 핵심관계자 40여 명이 참석했다.

이날 국가AI위원회 글로벌 자문위원인 AI분야 세계적 석학 요슈아 벤지오 교수는 “서울선언에 따라 한국정부가 AI안전연구소를 설립하게 된 것을 축하한다”며 “AI안전연구소의 역할로 업계와 협업을 통한 위험 평가방법 연구·발전, AI안전성 요건 수립 지원, 국제협력을 통한 AI안전체계의 상호 조화가 중요하다”고 강조했다.

미국 엘리저베스 켈리(Elizabeth Kelly)  AI안전연구소 소장은 “한국이 AI안전 증진을 위해 보여준 글로벌 리더십과 지원에 깊이 감사드린다”면서 “한-미 AI안전연구소가 전 세계 동료들과 함께 AI위험을 줄이고 혜택을 극대화하고 혁신을 촉진하기 위해 공통된 과학적 기준을 구축해 나가자”고 제안했다.

영국 올리버 일롯(Oliver Illot) AI안전연구소 소장과 아키코 무라카미 일 AI안전연구소 소장도 “한국 AI안전연구소 출범을 축하하며 AI기술을 안전하게 만들어 가기 위해 국경을 넘어선 협력을 확대해 나가자”고 말했다.

AI안전연구소 초대소장으로 임명된 김명주 소장은 ‘연구소 비전 및 운영계획’을 발표해 “AI활용으로 발생할 수 있는 제반 위험 평가와 이를 예방·극소화하기 위한 정책·기술을 개발·보급하고 국내·외 연대를 강화해 나가겠다”고 말했다.

그러면서 “연구소는 규제기관의 성격이 아니라, 국내 AI기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험요소들을 최소화하도록 지원하는 협력기관으로 역할을 하겠다”고 강조했다.

이어서 ‘대한민국 AI안전컨소시엄’ 협약식에서는 AI분야 국내 대표 산·학·연 기관 24곳이 참여해 AI안전에 관한 정책연구, 평가, 연구개발의 상호협력을 위한 업무협약(MOU)을 체결했다.

‘AI안전연구소’와 컨소시엄 참여기관이 함께 AI안전 프레임워크(위험 식별·평가·완화) 연구·개발·실증, AI안전관련 국제규범 대응 등 정책연구, AI안전관련 기술 협력 등을 중점적으로 추진할 계획으로, 향후 컨소시엄의 세부 연구주제와 운영방안을 구체화해 나갈 예정이다.

유상임 과기정통부 장관은 “AI안전은 지속가능한 AI발전의 전제로 AI분야에 종사하는 우리 모두가 함께 해결해야 할 가장 큰 도전 과제”라고 말했다.

특히 “지난 ‘영국 AI안전성 정상회의’, ‘AI서울정상회의’ 이후 불과 1년 만에 미국, 영국, 일본, 싱가포르, 캐나다 등 주요국이 모두 AI안전연구소를 설립하고 전례 없이 기민하고 체계적인 국제 AI안전 협력체계를 구축하고 있다”고 설명했다.

 

문의: 과학기술정보통신부 인공지능기반정책과(044-202-6262)


본 기사는 넷프로 인터넷뉴스 홈페이지의 데모기사 입니다.
등록된 기사는 테스트용이며 비회원이 복사한 자료일 수 도 있습니다.

뉴스

더보기

지역뉴스

더보기

포토뉴스

더보기