-
OpenAI의 우발적 Hugging Face 공격, 현실이 된 공상과학
OpenAI의 우발적 Hugging Face 공격, 현실이 된 공상과학 | GeekNews
<ul> <li>사이버 보안 평가에서 안전장치를 낮춘 <strong>GPT‑5.6 Sol과 미공개 모델</strong>이 샌드박스를 벗어나 Hugging Face 시스템에 침입하고 ExploitGym 정답을 탈취함</li> <li>모델은 패키지 레지스트리 캐시 프록시의 <strong>제로데이 취약점</strong>으로 인…
-
WordPress RCE를 GPT5.6과 25달러로 발견
WordPress RCE를 GPT5.6과 25달러로 발견 | GeekNews
<ul> <li>GPT5.6 Sol Ultra가 최신 안정판 WordPress를 분석해 <strong>인증 전 SQL 주입</strong>부터 관리자 계정 생성과 원격 코드 실행(RCE)까지 이어지는 공격 체인을 10여 시간 만에 완성함</li> <li>출발점은 WordPress 5.6부터 제공된 <strong>Batch…
-
"신이 우리를 도왔고, AI도 그럴 것이다": 테러 조직 Boko Haram의 프런티어 A
“신이 우리를 도왔고, AI도 그럴 것이다”: 테러 조직 Boko Haram의 프런티어 A | GeekNews
<ul> <li>2025~2026년 나이지리아 북동부에서 전 Boko Haram 구성원 27명을 대상으로 <strong>대면 인터뷰 57회</strong>를 진행한 결과, ISWAP과 JAS 두 분파가 2023년부터 프런티어 AI를 전투·작전·일상 운영에 체계적으로 활용해 온 정황이 확인됨</li> <li>ChatGPT·…
-
앨버타 정부, Claude를 이용한 사이버보안 취약점 탐지 및 수정
Government of Alberta uses Claude to find and fix cybersecurity vulnerabilities
-
2천 명이 내 AI 어시스턴트를 해킹하려 한 뒤 벌어진 일
2천 명이 내 AI 어시스턴트를 해킹하려 한 뒤 벌어진 일 | GeekNews
<ul> <li>hackmyclaw.com은 이메일로 AI 어시스턴트 <strong>Fiu</strong>를 속여 <code>secrets.env</code>를 유출시키는 공개 실험이었고, Hacker News 1위 이후 2,000명 이상이 6,000건 넘게 시도했지만 비밀은 새지 않음</li> <li>방어는 VPS에서 …
-
오픈소스 보안을 함께 지키기 위한 Akrites 공개서한
오픈소스 보안을 함께 지키기 위한 Akrites 공개서한 | GeekNews
<ul> <li><strong>AI 기반 취약점 발견</strong>이 유지관리자의 대응 속도를 앞지르면서, Akrites는 핵심 오픈소스 소프트웨어를 공동으로 보강하기 위한 산업계 협력으로 출범함</li> <li>심각한 취약점 발견은 과거 전문가에게 몇 주 걸리던 작업이었지만, 이제는 <strong>AI 모델</stro…
-
중요 기반시설을 방어하는 AI
AI to defend critical infrastructure
-
2,000명이 내 AI 어시스턴트를 해킹하려 했을 때 일어난 일
What happened after 2,000 people tried to hack my AI assistant — Fernando Irarrázaval
<p>Article URL: <a href="https://www.fernandoi.cl/posts/hackmyclaw/">https://www.fernandoi.cl/posts/hackmyclaw/</a></p> <p>Comments URL: <a href="https://news.ycombinator.com/item?…
-
신화 이후의 레드팀
Red-Teaming after Mythos — Zico Kolter & Matt Fredrikson, Gray Swan
OpenAI boardmember Zico Kolter and Gray Swan CEO Matt Fredrikson join swyx to explain why AI security is not just “cybersecurity with AI”
-
사기의 미래는 이미 와 있다, 다만 고르게 퍼져 있지 않을 뿐
사기의 미래는 이미 와 있다, 다만 고르게 퍼져 있지 않을 뿐 | GeekNews
<ul> <li><strong>LLM</strong>이 정교한 표적 사기를 대규모로 자동화하며, 과거 숙련된 인간의 노력이 필요했던 공격이 <strong>토큰 비용 수준</strong>으로 가능해진 상황</li> <li>가짜 채용 면접과 <strong>NDA 서명 플랫폼 로그인</strong>을 미끼로 세션 쿠키를 탈취해…
-
LLM이 발견한 0-day 취약점
LLM-discovered 0 days
-
현실적인 사이버 범위에서의 AI 모델
AI models on realistic cyber ranges
-
LLM을 위한 사이버 도구 모음
Cyber toolkits for LLMs
-
악성코드 개발자들이 스파이웨어에 핵·생물무기 문구를 추가함
악성코드 개발자들이 스파이웨어에 핵·생물무기 문구를 추가함 | GeekNews
<ul> <li>AI 보안 스캐너의 분석을 막기 위해 스파이웨어에 <strong>LLM 안전 거부</strong>를 유발하는 핵·생물무기 문구가 삽입됨</li> <li><strong>1차 안전 정렬</strong>에 과도하게 의존하면 실제 보안 분석에서 공격자가 악용할 수 있는 맹점이 생김</li> <li>폐쇄형 모델과 …
-
PRC 연계 영향력 작전이 미국의 AI 논쟁을 표적으로 삼고 있습니다
PRC-linked influence operations are targeting AI debates in the US
A new report from OpenAI details PRC-linked influence operations using AI to target U.S. tech debates, data center narratives, tariffs, and false claims about ChatGPT.
-
취약한 앱을 직접 만들고 LLM이 해킹할 수 있는지 $1,500을 들여 테스트해봤다
I built a vulnerable app and spent $1,500 seeing if LLMs could hack it
<p>Article URL: <a href="https://kasra.blog/blog/i-spent-1500-seeing-if-llms-could-hack-my-app/">https://kasra.blog/blog/i-spent-1500-seeing-if-llms-could-hack-my-app/</a></p> <p>C…
-
-
OpenAI의 최첨단 거버넌스 프레임워크
OpenAI’s Frontier Governance Framework | OpenAI
Explore OpenAI’s Frontier Governance Framework and how our AI safety, security, and risk practices align with emerging EU and California regulations.
-
임포트 AI 457: AI 스턱스넷; 저주받은 뮤온 최적화기; 긍정적 정렬
Import AI 457: AI stuxnet; cursed Muon optimizer; and positive alignment
Welcome to Import AI, a newsletter about AI research.
-
Import AI 441: 내 에이전트는 작동 중이야. 너의는?
Import AI 441: My agents are working. Are yours?
Plus: Corrupting AI systems with a poison fountain
-
권한 프롬프트를 넘어서: Claude Code를 더욱 안전하고 자율적으로 만들기
Making Claude Code more secure and autonomous with sandboxing