11월 8일 ~ 11월 9일 뉴스

 

※ 보안뉴스, 데일리시큐, 전자신문, 기타 IT전문언론을 우선순위로 하여 추출됩니다.
※ 가장 상단에 있는 뉴스는 생성형 AI를 이용해 요약한 기사입니다.

✨ 11월 8일 ~ 11월 9일 요약 뉴스

[AI와 보안] AI 도입 속도, 보안과 거버넌스 못 따라가...보안 체계 붕괴...

• 요즘 AI 기술 도입 속도가 정말 빠른데요. 안타깝게도, 기술을 안전하게 사용할 수 있는 보안 통제나 관리 체계가 그 속도를 따라가지 못하고 있다는 경고가 나왔습니다.
• 많은 기업이 생산성 향상에만 집중하고 안전 장치는 뒷전으로 미루고 있는 상황이에요.
  실제로 설문조사 결과, AI 에이전트 사용 속도가 기술에 대한 이해 수준을 앞지르고 있다고 답한 IT 및 비즈니스 리더가 3분의 2에 달하고, 응답 기업의 약 절반이 이미 AI 시스템의 보안 취약점으로 피해를 경험했다고 합니다.
• AI의 이점은 분명하지만, 도입 속도에 발맞춰 거버넌스 구조, 안전 장치, 사고 대응 체계를 서둘러 구축하는 것이 무엇보다 중요할 것 같습니다.

'AI 도입 2배 늘어나는 동안 AI 보안 사고는 7.5배 늘어'

• 최근 인공지능(AI) 기술 도입이 빠르게 늘어나는 만큼, AI 보안 사고 역시 크게 증가하고 있다는 소식입니다.
• 특히 국내 거대 언어 모델(LLM)은 빅테크 기업 모델과 달리 내재적인 보안 기능이 부족하다는 지적이 제기되었으며, 이에 따라 공공기관 등 AI 도입 시 보안 점검의 필요성이 강조되고 있습니다.
• 부산대 김호원 교수는 학술대회에서 AI 모델의 무결성, 개인정보 유출 등 AI 보안 관리의 중요성을 강조하며, AI의 안전성, 신뢰성, 보안성 검증이 필수라고 진단했습니다.
  실제로 생성형 AI 도입 비율이 작년 대비 2배 이상 늘면서, 관련 보안 사고는 7.5배 증가했다고 합니다.
  김 교수는 CBRN 정보 악용 위험, 부정확한 정보 생성 위험, 데이터 프라이버시, 정보 보안, 지적 재산권 등 생성형 AI 사용으로 인해 새롭게 발생하거나 악화되는 12가지 리스크 유형을 소개하며, AI 시스템의 안전성과 신뢰성 확보를 위해 모델 수준의 보안 및 신뢰성 검증이 중요하다고 역설했습니다.
  특히 프롬프트 가로채기(Prompt Injection)와 같이 공격자가 AI 모델을 조작해 의도하지 않은 행동을 유도하는 위협이 대표적인 공격 기법으로 꼽혔습니다.
• 우리 기업도 AI 시스템 도입 및 활용에 앞서 이러한 보안 위협들을 인지하고, AI 특화 보안 및 신뢰성 검증 기법을 활용하여 선제적으로 대응할 필요가 있겠습니다.

셰도우 AI, 치명적 보안 위협 될 수도…구글이 본 내년도 보안 트랜드

• 구글 클라우드에서 발표한 '사이버 보안 전망 보고서'에 따르면, 내년에는 AI를 활용한 공격 방식이 일반화되면서 보안 위협이 더욱 지능적이고 대규모화될 것으로 예상됩니다.
  특히, AI 에이전트의 확산, 가상화 및 클라우드 인프라 공격 증가, 그리고 국가 배후의 사이버 작전 고도화가 보안 환경의 근본적인 변화를 가져올 것으로 보입니다.
• 보고서는 내년에 주목해야 할 5가지 주요 트렌드로 ▲AI 활용 보편화 ▲랜섬웨어 및 데이터 탈취 ▲섀도우 에이전트 위험 ▲가상화 인프라 위협 증가 ▲국가 배후 위협을 꼽았습니다.
• 공격자들은 딥페이크 같은 멀티모달 생성형 AI를 적극 활용하여 소셜 엔지니어링 공격의 성공률을 높이고 대규모 이메일 침해 공격을 시도할 수 있습니다.
  또한, 조직의 승인 없이 사용하는 AI 도구인 '섀도우 에이전트'가 민감한 데이터 유출의 통로가 될 수 있다는 경고도 있습니다.
  하이퍼바이저와 같은 핵심 가상화 인프라를 겨냥한 공격도 시스템 마비로 이어질 수 있어 치명적입니다.
• 이러한 변화에 맞서기 위해, 구글 클라우드는 보안 분석가가 AI 에이전트를 지휘하는 방식으로 업무가 재편될 것이며, AI 보안 및 거버넌스 영역을 새롭게 구축하고 설계 단계부터 보안을 통합하는 '보안 중심 설계' 접근 방식이 필요하다고 조언하고 있습니다.
• 북한, 중국 등을 배후로 둔 국가 차원의 사이버 조직 활동도 계속될 전망이니, 방어자들은 이러한 모든 위협에 적응해야 할 것입니다.

'AI 도입으로 보안 위협 커져 … 韓 기업, 선제 대응해야'

• 최근 테너블의 스티브 빈츠 CEO와 개빈 밀러드 부사장은 생성형 AI 도입이 사이버 보안의 중요성을 더욱 높이고 있다고 강조했습니다.
• AI 도입이 기업의 '공격 표면'을 빠르게 확장시키고 있어 기존 보안 시스템으로는 감당하기 어려울 수 있다는 점을 지적했습니다.
  특히, 한국은 디지털화가 활발해지면서 취약점 공격 가능성이 커지고 있으며, AI 서비스 자체도 취약점이 될 수 있습니다.
• 이에 기업들은 AI 도구의 가시성을 확보하고, 기존의 반응형 대응에서 벗어나 공격 위협을 선제적으로 예측하고 방어하는 패러다임으로 전환해야 합니다.
  또한 사이버 보안을 단순한 IT 이슈가 아닌 비즈니스 리스크로 인식하는 것이 중요하다고 조언했습니다.

[기자24시] '내일의 해킹' 막는 보안대책

• 올해는 통신사, 패션 브랜드, 온라인 서점 등에서 대규모 개인 정보 유출 사고가 연이어 발생하며 '해킹의 해'로 기억될 것 같습니다.
• 이러한 사고로 인해 SK텔레콤은 분기 적자를 기록하고 KT는 대표 연임에 어려움을 겪는 등 큰 여파가 있었습니다. 하지만 이를 계기로 보안 체계를 재설계할 기회가 생겼고, 정부도 범부처 정보 보호 대책을 발표했습니다.
  특히 상장사의 정보 보호 공시 의무화와 핵심 IT 시스템 보안 점검 등의 메시지는 보안을 더 이상 미루지 말라는 경고입니다.
• 나아가 최고정보보호책임자(CISO)의 권한을 강화하여 보안 인력 확대 및 투자에 힘을 실어주는 것이 중요합니다.
• 기업뿐만 아니라 정부 부처의 보안 수준 강화도 절실하며, 앞으로 더욱 정교해질 국가 배후 해커 집단의 공격에 대비하기 위해 지금 바로 잠재적 사고를 막을 수 있도록 대비해야 합니다.

---

📢 주요 보안뉴스

[AI와 보안] AI 도입 속도, 보안과 거버넌스 못 따라가...보안 체계 붕괴...

기업 현장에서 AI 기술 도입 속도가 너무 빨라지고 있는 가운데 이를 안전하게 사용할 수 있는 적절한 보안 통제와 관리 체계(거버넌스)가 부족하다는 경고가 나왔다.생산성 가속 페달만 밟고, 안전장치는 뒷전보안...

출처: 보안뉴스

국정원, 사이버 보안 분야 등 경력직 채용 나서

국가정보원이 보안소프트웨어 개발과 사이버 추적분석 같은 사이버 보안 관련 직군 등에서 경력직 채용에 나섰다. 국가정보원은 특정 6급 및 7급 경력직 채용 원서 접수를 11일까지 받는다. 사이버 보안 분야에선...

출처: 보안뉴스

PHP 서버·IoT 기기, 봇넷의 새로운 먹잇감…신분 도용 위험 급증

사이버 보안 연구원들이 미라이(Mirai), 가프짓(Gafgyt), 모지(Mozi) 같은 봇넷들의 자동화된 공격이 PHP 서버, IoT 장치, 클라우드 게이트웨이를 겨냥해 급증하고 있다고 경고했다.글로벌 보안 전문업체 퀄리스의...

출처: 보안뉴스

📌 기타 보안뉴스

'AI 도입 2배 늘어나는 동안 AI 보안 사고는 7.5배 늘어'

내재적인 보안 기능이 부실하다는 지적이 나왔다. 이에 공공기관 AI 도입을 위한 보안 점검이 필요하다는 주장에 힘이 실리고 있다. 김호원 부산대 컴퓨터공학과 교수는 지난 7일 한국사이버안보학회 학술대회에서...

출처: 지디넷코리아

백업만으론 부족하다…데이터센터에 필요한 ‘사이버 복원력’

주센터(1차)와 재해복구센터(2차) 외에 서로 다른 보안 정책과 저장 위치를 가진 독립 사본을 추가로... 결국 사이버 복원력은 보안 기술 문제가 아니라 운영 전략의 문제다. 멈추지 않는 서비스를 위해 되살릴 수 있는...

출처: 디지털데일리

[AI돋보기] 내가 한 말, AI는 기억하고 있다

정부 최초 AI 개인정보 가이드 등장 AI가 방대한 개인정보를 기억하고 활용하는 문제에 대응하기 위해 지난 8월 개인정보보호위원회(PIPC)는 '생성형 AI 개발·활용을 위한 개인정보 처리 안내서'를 내놨다. 이 가이드라인은...

출처: 연합뉴스

셰도우 AI, 치명적 보안 위협 될 수도…구글이 본 내년도 보안 트랜드

특히 AI 에이전트의 광범위한 활용, 가상화 및 클라우드 인프라를 겨냥한 공격 확대, 국가 차원의 사이버 작전 고도화가 맞물리면서 기존의 보안 패러다임이 근본적으로 재편될 것이라는 게 보안 업계 진단이다. 구글...

출처: 뉴시스

생각하는 AI, 더 쉽게 뚫린다

이미 기업과 소비자가 쓰는 주요 상용 모델의 안전성과 보안에 우려가 커지고 있다. 앤트로픽(Anthropic)·옥스퍼드대·스탠퍼드대 공동 연구는 '모델이 사용자 요청을 단계적으로 '생각'할수록 해로운 명령을 더 잘...

출처: 포춘코리아

AI·클라우드 시대, 무너지는 방어선…사이버 안보 패러다임 전환 시급...

기존의 망 분리·폐쇄망 중심 전통 보안 모델은 코로나19 이후 원격근무와 비대면 업무의 확산으로 효용성이... 보안성 평가‧인증 범위를 소프트웨어에 국한하지 말고 펨토셀·통신장비 등 인프라 전반으로 확대해야...

출처: 이코노미스트

대형 개인정보유출 잇따르는데… 개보위 조사인력 4년째 ‘31명 제자리...

SK텔레콤, 예스24, GS리테일 등 주요 기업에서 대형 개인정보 유출 사고가 잇따르고 있지만, 이를 조사하는 개인정보보호위원회(개인정보위)의 인력은 4년째 31명에 머물러 있어 조사 지연 우려가 커지고 있다. 9일...

출처: 조선비즈

아동 개인정보 유출 ‘사각지대’ 여전

9일 한국인터넷진흥원 ‘아동·청소년 개인정보보호 관련 동향 분석’ 보고서에 따르면 국내에서는 ‘개인정보 보호법’을 통해 14세 미만 아동의 개인정보 처리 시 법정대리인의 동의를 의무화하고 있으나, 빠르게...

출처: 브릿지경제

'AI 도입으로 보안 위협 커져 … 韓 기업, 선제 대응해야'

그러나 이는 기존 보안 시스템이 감당하기 어려울 정도로 '공격 표면'을 빠르게 확장시키고 있습니다.' 최근... 사이버 보안이 그 어느 때보다 더 중요해졌다고 강조했다. 테너블은 보안 취약점을 관리하는 소프트웨어를...

출처: 매일경제

[기자24시] '내일의 해킹' 막는 보안대책

있던 보안기업 SK쉴더스도 당했다. 여파는 상당하다. 매년 조 단위 영업이익을 거두던 SK텔레콤이 사상 첫 분기 적자를 기록했고, KT는 대표 연임이 어려워졌다. 그래도 긍정적인 요소를 꼽으라면 '사상누각'의 보안체계를...

출처: 매일경제

해킹 피해 속출…사이버보안 선택 아닌 필수

- API 취약점 대응, 로그 관리 등 - 중견기업 네트워크 보안 강화 SK텔레콤 KT 롯데카드 등 주요 통신·금융 업체의 해킹 사고가 잇따라 발생한 가운데 중견 기업 이상의 네트워크 보안을 강화하는 설루션이 출시됐다....

출처: 국제신문

'해킹당해 의료기록 초기화'...보안점검 신청도 '미미'

환자들이 직접 피해를 볼 수밖에 없는 상황이지만 상당수 의료기관들은 정부를 통해 받을 수 있는 보안점검... 시스템의 보안이 미흡했던 것인데, 병원은 울며 겨자 먹기로 시스템을 초기화하고 상당한 비용을 들여 복구에...

출처: YTN

🧠 IT 뉴스

“AI의 환각, 이제는 변명 안돼”…구글 수석개발자, 개발의 책임을 다...

AI 시스템이 어떤 상황에서 어떤 응답을 내놓아야 하는지에 대한 기대값을 정의하고, 프롬프트와 컨텍스트 엔지니어링 방식에 명확한 가이드를 세우며, 프롬프트 주입 공격이나 민감 데이터 유출을 막는 보안...

출처: 디지털데일리

'AI '컨트롤타워' 자임하더니… 데이터 표준화·품질 관리 시급'

또한 '부서 간 학습데이터 접근 권한을 명확히 해 보안 체계를 강화하고, 이를 기반으로 도민 맞춤형 AI... 관리하고, 보안·활용·품질을 아우르는 관리 체계를 조속히 구축해야 한다'고 제안했다. 마지막으로 김 의원은...

출처: 내외경제TV