과학기술정보통신부(부총리 겸 과기정통부 장관 배경훈, 이하 과기정통부)가 주최하고 한국전자통신연구원 인공지능안전연구소(소장 김명주)가 주관하는 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, 이하 SFASS)’이 10월 28일 서울 호텔 나루 엠갤러리에서 성황리에 개막했다.

‘보다 안전한 AI 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)’을 주제로 열린 이번 포럼에는 국내외 학계, 산업계, 정부 관계자 등 150여 명의 전문가가 참석해 AI 안전 거버넌스·평가·레드티밍의 방향성을 모색했다.

개회식에서는 송상훈 국가인공지능전략위원회 지원단장이 축사를, 김명주 한국 인공지능안전연구소 소장이 환영사를 전하며 AI 안전 분야 국제 협력의 중요성을 강조했다.

첫날에는 AI 안전연구소 글로벌 네트워크, 빅테크의 안전개발 전략, AI 모델 평가, 한국 인공지능안전연구소의 실천적 접근 등을 주제로 세션이 이어졌다.일본 및 싱가포르의 AI 안전연구소, 유럽연합(EU) AI 사무국, 앤트로픽(Anthropic), 구글(Google), LG AI연구원, 네이버클라우드, 세이퍼 AI(Safer AI), 스케일 AI(Scale AI), CARMA(Center for AI Risk Management & Alignment) 등에서 포럼 연사로 참여해 AI 안전성과 신뢰 확보를 위한 정책·기술·산업적 접근을 공유했다.

이날 각국 AI 안전연구소의 활동, 프론티어 AI 모델 개발 기관의 안전 확보 노력, AI 평가 전문 기관의 평가 방법론 등이 논의됐다. 또한 한국 인공지능안전연구소 실무책임자들과의 대화 세션을 통해 한국의 AI 안전 정책과 연구 방향을 공유했다.포럼 둘째 날인 29일(수)에는 AI 시스템 평가 및 벤치마킹 세션과 ‘프론티어 AI 안전을 위한 레드티밍’ 프로그램이 진행된다.AI 시스템 평가 및 벤치마킹 세션에는 엠엘커먼스(MLCommons), METR, 앤트로픽(Anthropic), 에포크 AI(Epoch AI), FLI(Future of Life Institute), 옥스퍼드대학(Oxford University) 등에서 참석한 연사들이 경험을 공유한다.

특히 한국 인공지능안전연구소와 미국 AI 전문기업 스케일 AI(Scale AI) 간의 MOU 체결식이 열려 AI 평가, 레드티밍, 안전연구 고도화를 위한 글로벌 협력체계의 공식 출범을 알리고, 오후 세션에서 한국 인공지능안전연구소와 공동으로 레드티밍 세션을 진행한다.

첫날 논의를 통해 이번 포럼은 글로벌 AI 안전 협력의 실질적인 플랫폼으로서의 가능성을 확인했다. 둘째 날에는 더욱 구체적인 기술 협력과 레드티밍 실습이 이어질 예정이다.