뉴스 검색결과 10,000건 이상
- 韓최초 가짜AI 잡기대회 성료…美데프콘보다 열기 뜨거워
- [이데일리 김현아 기자] 국내 기업들이 개발한 생성형 인공지능(AI)을 공격해 오류와 편견을 잡아내는 첫 대회 참여도가 세계 최대 사이버 보안 컨퍼런스 ‘데프콘(DEF CON)’ 부대행사를 넘어선 것으로 나타났다. 이번 대회는 네이버와 SK텔레콤(017670), 업스테이지, 포티투마루 등 국내 기업 4곳의 거대언어모델(LLM)을 대상으로 진행됐다.AI 혐오발언 논란으로 1년 9개월 간 서비스가 중단됐다가 다시 서비스를 시작한 대화형 인공지능(AI) 챗봇 ‘이루다 2.0’. 사진=스캐터랩◇공격 횟수 1만9238건…美행사 때보다 많아지난 11일 서울 코엑스에서는 과학기술정보통신부 주최로 첫번째 ‘생성형 AI 레드팀 챌린지’가 열렸다. 토종 LLM을 대상으로 잘못된 정보(환각), 편견 및 차별, 인권 침해, 사이버 공격, 불법 콘텐츠, 일관성 등을 테스트하는 행사로, 700여명의 시민들이 4시간 동안 프롬프트에 지시어를 넣는 방식으로 경쟁했다. 채점은 120명의 전문가가 맡았다.이번 대회에서는 1만9238개의 공격 시나리오가 발생했는데 이는 2023년 8월 미국 라스베이거스에서 데프콘 부대행사로 열렸던 백악관의 ‘GRT(생성 AI 레드팀)’ 행사 때의 공격 횟수를 능가한 수치다. 이번 대회는 국내 기업 4곳의 LLM을 대상으로 진행된 반면 데프콘 행사는 오픈AI를 비롯한 구글, 앤트로픽, 메타, 코히어, 허깅페이스, 스태빌리티 AI, 엔비디아 등 8개 글로벌 기업의 LLM을 상대로 공격이 진행됐다.대회를 주관한 한국정보통신기술협회(TTA)의 곽준호 팀장은 “총 1084명이 신청했으나 실제 참가자는 700여명 정도였다. 공격을 위해 각 세션에 대화를 신청한 횟수는 1만 9238건으로, 전 세계에서 2200명이 참가한 ‘데프콘(DEF CON)’ 행사의 1만 7469건보다 많았다. 굉장히 활발한 공격이 있었고, 밤새 채점했다”고 말했다. 평가에는 셀렉트스타가 KAIST 최윤재 교수 연구실과 국책 과제로 개발한 ‘LLM 신뢰성 평가 데이터셋’이 쓰였다.1위 과학기술정보통신부 장관상(상금 500만원)을 받은 서울대 김지우 씨(오른쪽)와 남철기 인공지능정책과장.제1회 생성형AI 레드팀 챌린지 결과를 발표하는 TTA 곽준호 팀장이다.◇공격 성공률 34%..토종 LLM 취약점 보완 시사대회의 공격 성공률은 34%에 달했는데, 100개의 공격 시나리오를 넣었을 때 30개 이상을 방어하지 못했음을 의미한다. 국내 기업 LLM만을 대상으로 했기 때문에 취약점 보완이 시급하다는 시사점도 얻었다. 곽 팀장은 “공격 중 약 6500건 정도가 성공했다. LLM 별로 공격이 성공한 횟수를 구체적으로 말하기는 어렵다”고 말했다.가장 많은 공격이 이뤄진 분야는 잘못된 정보(환각)로 42%를 나타냈다. 환각이란 ‘두 숫자의 최대 공배수를 구해줘’ 같은 답이 없는 질문에 AI가 아는 것처럼 답하는 경우다. 공배수는 무한대로 커지기 때문에 가장 큰 숫자를 정의할 수 없다. 곽 팀장은 “편견 및 차별, 불법 콘텐츠, 사이버 공격 등의 분야에서도 공격이 많았지만 환각이 가장 많았으며, 정보의 일관성이나 인권 침해 분야는 상대적으로 적었다”고 했다.◇수상자는 모두 대학생대회의 수상자는 모두 대학생들이었다. 1위 과학기술정보통신부 장관상(상금 500만원)은 서울대 김지우씨에게 수여됐고, 상금 300만원을 받는 나머지 상들은 초거대AI추진협의회 회장상 한관엽(서울대), 셀렉트스타 대표이사상 남윤재(연세대), 한국정보통신기술협회 회장상 고평강(포항공과대학교), SK텔레콤 대표이사상 박하언(서울대), 네이버 대표이사상 이기연(한국과학기술원) 등이었다.‘생성형 AI 레드팀 챌린지’는 다양한 사람들의 집단 지성을 활용하여 개별 기업이 발견하기 어려운 AI의 취약성을 발굴하는 것을 목표로 한다. 과기정통부는 이번 대회의 결과를 바탕으로 ‘AI 안전성 평가 가이드라인’을 만들 예정이며, LLM뿐 아니라 이미지 생성 등 멀티모달 분야에 대해서도 유사한 챌린지를 계획하고 있다.
- 엔켐, 북미 시장 공략 가속…텍사스 공장 건설 속도
- [이데일리 박순엽 기자] 국내 최대 전해액 생산기업 엔켐이 급성장하고 있는 글로벌 이차전지 시장에서 생산능력(CAPA) 확대에 속도를 내고 있다고 16일 밝혔다. 또 연이은 최상위 글로벌 배터리 메이커 및 완성차 제조사(OEM)향 수주로 세계 시장 점유율을 높여나가고 있다는 게 엔켐 측 설명이다. 엔켐 CI (사진=엔켐)엔켐(348370)은 한국, 중국, 유럽, 미국 등 전 세계 주요 배터리 생산거점에 모두 진출해 완벽하게 현지화된 대규모 전해액 공장에서 현지생산을 진행 중이다. 각 생산거점에서 점유 확대와 납품 성과를 연이어 내고 있다.엔켐은 현재 전 세계 3위의 생산능력을 보유한 전해액 전문기업이다. 특히 엔켐은 지난해 12월 발표된 미국 인플레이션 감축법(IRA) 세부 시행령 이후 북미시장 공략에 더욱 빠른 대응 체제를 구축하고 시장 대응에 나서고 있다.북미 이차전지 시장에서의 엔켐은 선진입 효과와 함께 경쟁사를 압도하는 대규모 전해액 공장의 생산능력, 미국 내 운영 노하우를 통해 역내 글로벌 고객사들을 적극적으로 공략하고 있다.엔켐은 지난해 미국 조지아주에 소재한 ‘SK배터리아메리카(SKBA)’를 시작으로 LG에너지솔루션과 GM의 합작법인인 ‘얼티엄셀즈’의 오하이오 1공장에 제품을 공급 중이다. 이어 최상위 전기차(EV) OEM사와 얼티엄셀즈 테네시 2공장, 그리고 미국 서부 일본 최상위 글로벌 배터리메이커에도 납품을 진행하고 있다. 올해 하반기에는 SK온과 포드의 합작법인인 ‘블루오벌’ 켄터키 공장에 제품 공급을 시작할 예정이다.북미 시장에서 고객사 진입과 관련한 엔켐의 핀셋 전략은 동부와 서부를 큰 축으로 나눠 타겟을 설정하고 효율적인 제품 공급을 통해 고객사와의 전략적 협력체계를 구축한다는 것이 주요 골자다. 미국 동남부는 조지아 엔켐 제1공장에서 공급이 이뤄지고, 2025년 말 이후 공급이 시작될 엔켐 텍사스 공장은 서남부를 커버할 계획이다. 텍사스 공장 완공 전까진 조지아 공장이 서남부 고객사들의 제품 공급을 담당한다.현재 전 세계 이차전지 시장의 외형 성장을 주도하고 있는 북미 시장의 배터리 총 생산능력은 내년 약 646GWh, 2026년 약 1046GWh의 규모로 성장할 것으로 전망되고 있다. 엔켐이 계획하고 있는 2026년 북미 전해액 총 생산능력은 경쟁 기업을 압도하는 총 65만톤이다.엔켐 관계자는 “엔켐은 현재 북미에서 가장 큰 전해액 공장인 조지아 공장을 필두로, 테네시와 텍사스, 캐나다 온타리오에 대규모 공장을 추진함으로써 북미 전역을 담당하고 신규 고객사 진입 및 시장 대응을 가장 빠르게 진행하고 있다”고 말했다. 그는 이어 “특히 지난 1월 초도 납품을 시작으로 본격적 공급이 시작된 글로벌 최상위 EV OEM사 직납과 일본 외 소재 기업이 일본 배터리 기업에 최초로 납품을 개시했다는 것은 특별한 의미를 내포하고 있다”며 “엔켐 텍사스 공장은 이들 글로벌 기업과의 거래를 진행하는 데 있어 전략적 요충지 역할을 할 것으로 전망된다”고 덧붙였다.엔켐이 추진하고 있는 텍사스 공장은 신선도 유지가 중요한 전해액 제품의 본질적 특성과 물류 등 운영 효율적 측면에 유리하다. 엔켐 조지아 공장을 포함한 타 전해액 공장들이 역내 동부에 편중돼 있어서다. 또 고객사 유치와 납품을 고려했을 때 미국 서남부 전해액 생산거점 구축은 엔켐에 있어 북미 시장에서의 또 다른 차별적 경쟁력이 될 것으로 기대된다. 엔켐은 선진입 이후 기업의 성장 동력이자 빠른 점유 확대를 진행 중인 북미 시장에서의 확고한 레퍼런스를 바탕으로 2025년 이후 유럽 시장의 공략 또한 함께 준비 중인 것으로 알려졌으며, 이를 통해 글로벌 전해액 시장에서의 공급망을 더욱 확고히 한다는 계획이다
- '틈만 나면,' 유재석·유연석, 메인 포스터 공개
- ‘틈만나면’[이데일리 스타in 김가영 기자] SBS 신규 예능 ‘틈만 나면,’이 유재석, 유연석의 유쾌 상쾌한 메인 포스터를 공개했다.4월 23일 첫방송되는 SBS ‘틈만 나면,’(연출 최보필 작가 채진아)은 일상 속 마주하는 잠깐의 틈새시간 사이에 행운을 선물하는 ‘틈새 공략’ 버라이어티로 유재석과 유연석이 2MC로 나선다. 두 사람은 ‘런닝맨’, ‘범인은 바로 너’ 등에서 만난 적이 있지만, 2MC로 나서는 것은 ‘틈만 나면,’이 최초라는 점에서 기대를 모은다. ‘런닝맨’의 최보필 PD와 ‘사이렌: 불의 섬’의 채진아 작가가 의기투합했다.유재석, 유연석이 ‘틈새’를 노리고 있는 메인 포스터가 공개되어 궁금증을 끌어올린다. 첫 번째 포스터에서 유재석과 유연석은 샛노란 블라인드의 위, 아래 틈 사이로 얼굴을 비추고 있다. 유재석이 반가운 듯한 표정으로 웃음을 자아내는가 하면, 유연석은 달달한 미소로 따뜻한 기운을 전달한다. 두 사람의 모습은 ‘당신의 틈에 초대해주세요’라는 문구와 함께 어우러지면서 마치 시청자들의 응답을 기다리는 듯한 느낌을 전한다. 이에 유쾌 상쾌한 기운을 내뿜는 이들의 케미가 시청자들의 틈새를 어떻게 공략할지 궁금증을 자아낸다.유재석과 유연석의 장난기 넘치는 모습이 담긴 개인 포스터도 함께 공개되면서 눈길을 사로잡는다. 유재석은 초대를 부탁하는 문구와 함께 바짝 올린 눈썹과 한껏 기대를 담은 눈빛으로 정면을 응시한다. 능청스러우면서도 젠틀한 유재석의 제스처에 오랜 세월 시청자와 함께한 명MC의 저력을 기대하게 된다. 그런가 하면 한쪽 구석을 바라보며 엉뚱한 등장을 보이는 유연석의 모습도 시선을 끈다. 틈새를 활짝 열며 호기심 가득한 표정을 짓고 있는 유연석은 엉뚱 발랄 불도저 매력을 내뿜으며 기대를 수직 상승시킨다.공개된 포스터는 누군가의 틈새시간에 유재석, 유연석의 눈치 코치를 모두 동원한 특급 작전이 틈만 나면 이루어질 것으로 기대를 모은다.이에 대해 SBS ‘틈만 나면,’ 제작진은 “유재석과 유연석이 당신의 틈에 초대받기를 기다리고 있다”라며 “유재석과 유연석의 따뜻하고 유쾌한 케미가 당신의 틈새를 가득 채울 것이다. 기대해 달라”라고 밝혔다.SBS 신규 예능 ‘틈만 나면,’은 오는 4월 23일 화요일 오후 10시 20분 첫 방송 예정이다.
더보기
