여기에 광고하세요!!
여기에 광고하세요!!
카카오는 27일, 생성형 AI의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘Kanana Safeguard’를 개발하고 국내 기업 최초로 오픈소스 형태로 공개했다고 밝혔다.
카카오는 27일, 생성형 AI의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘Kanana Safeguard’를 개발하고 국내 기업 최초로 오픈소스 형태로 공개했다고 밝혔다.
이번 공개는 생성형 AI 기술이 빠르게 확산되며 사회적 우려가 커지는 가운데, 안전하고 책임 있는 AI 생태계를 조성하기 위한 선제적 대응의 일환이다.
‘Kanana Safeguard’는 카카오가 자체 개발한 언어모델 ‘Kanana’를 기반으로 한국어 및 한국 문화에 최적화된 성능을 갖춘 것이 특징이다. 자체 구축한 한국어 데이터셋을 활용했으며, F1 스코어 평가 결과 글로벌 모델 대비 우수한 성과를 보인 것으로 알려졌다.
공개된 모델은 총 3종이다. 기본형인 ‘Kanana Safeguard’는 AI 서비스 내에서 증오, 괴롭힘, 성적 콘텐츠 등 유해 발화를 탐지하는 역할을 하며, ‘Kanana Safeguard-Siren’은 개인정보, 저작권 등 법적 민감 정보를 식별한다. 마지막으로 ‘Kanana Safeguard-Prompt’는 AI를 악용하려는 시도나 위험한 프롬프트를 감지하도록 설계됐다.
이 모델들은 모두 세계 최대의 오픈소스 AI 플랫폼인 허깅페이스(Hugging Face)를 통해 다운로드 가능하며, 상업적 활용과 수정·재배포가 자유로운 아파치 2.0(Apache 2.0) 라이선스를 적용받는다.
카카오 김경훈 AI Safety 리더는 “기술 발전과 함께 AI의 윤리와 안전에 대한 논의가 더욱 중요해지고 있다”며 “Kanana Safeguard의 오픈소스 배포를 통해 책임감 있는 AI 개발과 활용 문화가 확산되길 기대한다”고 밝혔다.
카카오는 향후 지속적인 업데이트를 통해 모델의 고도화를 추진하고, 국내외 AI 기술 안전성 강화에 적극 기여할 방침이다.
최고 관리자
기자
헤드라인 뉴스
-
연료비 줄이고 탄소도 줄이는 화물차 에코 드라이빙 캠페인 실시
국토교통부는 7월 1일부터 8월 31일까지 화물차 운전자를 대상으로 연비 절감과 온실가스 감축을 위한 에코 드라이빙(경제운전) 캠페인을 시행한다고 11일 밝혔다.’25년 화물자동차 에코 드라이빙 캠페인 추진 체계이번 캠페인은 수송 부문 온실가스 감축 목표 달성과 친환경 물류 확산을 위해 마련됐다. 국토부는 2030년까지 수송 부문 배출량을 201
-
KOTRA, 수출 1조달러를 위한 ‘무역구조 혁신 TF’ 발족
KOTRA(사장 강경성)는 수출 1조달러 달성을 위한 ‘무역구조 혁신 TF’를 발족하고 10일 첫 전체 회의를 개최했다.KOTRA는 수출 1조달러 달성을 위한 ‘무역구조 혁신 TF’를 발족하고 10일 첫 전체 회의를 개최했다.강경성 사장이 직접 총괄을 맡은 이번 TF는 급변하는 통상 환경에 전략적으로 대응해 신정부
-
경기도 ‘AI 사랑방’, 6개월간 1,660명 이용…어르신들의 디지털 친구로 자리잡다
경기도가 지난해 12월 포천시 관인면 작은도서관에 개소한 ‘AI 사랑방’이 6개월 만에 1,660명의 누적 방문객을 기록하며 노년층의 디지털 돌봄 모델로 주목받고 있다. 디지털 소외계층인 어르신들의 건강과 정서안정, 사회적 연결망 회복에 기여하고 있다는 평가다.AI 사랑방 스마트폰 교육‘AI 사랑방’은 경기도와 포
-
경기도, 6월 16~27일 ‘오토바이 소음 없는 날’ 운영…31개 시군 합동점검 나선다
경기도가 이륜자동차 소음으로 인한 주민 불편을 줄이기 위해 오는 6월 16일부터 27일까지를 ‘오토바이 소음 없는 날’로 지정하고, 도 전역에서 집중 합동 점검을 실시한다고 11일 밝혔다.경기도가 이륜자동차 소음으로 인한 주민 불편을 줄이기 위해 오는 6월 16일부터 27일까지를 ‘오토바이 소음 없는 날’로 지정하
-
“멀리 갈 필요 없어요”… 부천시, 도심 곳곳 생활 인프라 ‘촘촘하게’
도심 어디서든 공원에서 산책하고, 도서관에서 책을 읽고, 수영장에서 운동하는 일상이 가능하다면 어떨까. 경기도 부천시가 바로 그런 도시로 자리매김하고 있다.지난 7일 개장한 중앙공원 물놀이장에서 아이들이 물놀이를 즐기고 있다.부천시(시장 조용익)는 공원과 맨발길, 도서관, 물놀이장, 체육시설 등 생활 밀착형 인프라를 곳곳에 촘촘히 조성하며 시민 만족도를 끌
-
6월엔 서초책있는거리로 북캉스 미리 떠나요
서울 서초구(구청장 전성수)가 국립중앙도서관부터 서래골공원까지 반포대로 510ｍ 거리를 도심 속 힐링 휴가지로 변신시키고, 책과 함께 '6월 미리 떠나는 북캉스'를 오는 14일 연다고 밝혔다.서초 책있는 거리이번 '북캉스'는 서초책있는거리(국립중앙도서관∼서래골공원)에서 올해 두 번째로 열리는 독서문화행사다. 지난 4월 있었던 '북크닉'에 이어 이달에
-
서울시 ‘아이돌봄비’ 지원 2년…2세아 8명 중 1명 신청, 조부모가 95.8% 차지
서울시가 지난 2023년 9월부터 시행 중인 ‘서울형 아이돌봄비’ 사업이 시행 2주년을 맞아, 영유아 양육가정과 조부모 양측으로부터 높은 호응을 얻고 있다고 11일 밝혔다. 2025년 5월 기준 서울에 거주하는 2세 영아(24~36개월) 중 약 8명 중 1명이 이 제도를 신청했으며, 육아 조력자의 95.8%가 조부모인 것으로 나타났다.
-
6월 1~10일 수출 5.4%↑…무역수지 17억 달러 적자
관세청은 11일, 6월 1일부터 10일까지의 수출입 잠정 통계에 따르면 수출은 155억 달러로 전년 동기 대비 5.4% 증가했으며, 수입은 172억 달러로 11.5% 늘어난 것으로 나타났다고 밝혔다. 무역수지는 17억 달러 적자를 기록했다.’25년 6월 1일 ~ 6월 10일 수출입 현황이번 기간 중 조업일수가 지난해보다 0.5일 적었음에도 불구하
-
2024년 공공재정 부정수급 1천억 원 넘어… 생계급여·청년일자리 지원금 등 집중 환수
국민권익위원회(위원장 유철환)는 6월 11일 ‘2024년도 환수 등 제재처분 이행관리 실태점검 결과’를 발표하고, 전국 309개 공공기관에서 총 1,042억 원의 공공재정 부정수급을 적발해 환수 조치했다고 밝혔다. 제재부가금은 총 288억 원에 달하며, 이는 공공재정환수법 시행 이후 제재 체계가 점차 정착되고 있다는 평가다.기관 유형별 제재처분 현황점검 대
-
서울시, 여름철 폭염·풍수해 대비 가스시설 1,346곳 안전점검
서울시가 여름철 폭염과 국지성 집중호우 등 기후재난에 대비해 도시 내 가스시설 1,346개소에 대한 대대적인 안전점검에 나선다. 점검은 오는 7월까지 진행되며, 가스사고 예방과 시민안전 확보를 위한 선제적 대응조치의 일환이다.서울시가 여름철 폭염과 국지성 집중호우 등 기후재난에 대비해 도시 내 가스시설 1,346개소에 대한 대대적인 안전점검에 나선다.&nb
-
경기IT새일센터, 하반기 IT직업교육훈련 교육생 모집…5개 과정 운영
경기도일자리재단 산하 경기IT새일센터가 2025년 하반기 IT분야 직업교육훈련 과정의 교육생을 모집한다고 11일 밝혔다. 이번 과정은 도내 IT직종 취업 희망자를 위한 실무 중심의 맞춤형 교육으로 구성됐다.상반기 IT분야 직업교육훈련 교육 사진하반기 교육은 총 5개 과정으로, ▲디지털콘텐츠 이모티콘 크리에이터 ▲쇼핑몰을 위한 퍼블리싱 ▲SW테스팅 자동화:
-
소아정신과 의사가 전하는 '아이 공부법'…25일 송파구청서 특강 개최
서울 송파구는 오는 6월 25일 오전 10시 구청 대강당에서 소아정신과 전문의 서천석 박사를 초청해 ‘아이 공부 이야기’를 주제로 한 학부모 대상 무료 특강을 연다고 밝혔다.서울 송파구는 오는 6월 25일 오전 10시 구청 대강당에서 소아정신과 전문의 서천석 박사를 초청해 ‘아이 공부 이야기’를 주제로 한 학부모
