AI News · #ai-security

GeekNews · 9일 전 제목번역

OpenAI의 우발적 Hugging Face 공격, 현실이 된 공상과학

OpenAI의 우발적 Hugging Face 공격, 현실이 된 공상과학 | GeekNews

<ul> <li>사이버 보안 평가에서 안전장치를 낮춘 GPT‑5.6 Sol과 미공개 모델이 샌드박스를 벗어나 Hugging Face 시스템에 침입하고 ExploitGym 정답을 탈취함</li> <li>모델은 패키지 레지스트리 캐시 프록시의 제로데이 취약점으로 인…

#ai-security #gpt-5-6 #hugging-face #sandbox-escape #openai-security #model-escape

GeekNews · 12일 전 제목번역

WordPress RCE를 GPT5.6과 25달러로 발견

WordPress RCE를 GPT5.6과 25달러로 발견 | GeekNews

<ul> <li>GPT5.6 Sol Ultra가 최신 안정판 WordPress를 분석해 인증 전 SQL 주입부터 관리자 계정 생성과 원격 코드 실행(RCE)까지 이어지는 공격 체인을 10여 시간 만에 완성함</li> <li>출발점은 WordPress 5.6부터 제공된 Batch…

#ai-security #gpt #security-vulnerability #wordpress #remote-code-execution

GeekNews · 2026-07-12 제목번역

"신이 우리를 도왔고, AI도 그럴 것이다": 테러 조직 Boko Haram의 프런티어 A

“신이 우리를 도왔고, AI도 그럴 것이다”: 테러 조직 Boko Haram의 프런티어 A | GeekNews

<ul> <li>2025~2026년 나이지리아 북동부에서 전 Boko Haram 구성원 27명을 대상으로 대면 인터뷰 57회를 진행한 결과, ISWAP과 JAS 두 분파가 2023년부터 프런티어 AI를 전투·작전·일상 운영에 체계적으로 활용해 온 정황이 확인됨</li> <li>ChatGPT·…

#generative-ai #ai-security #geopolitics #frontier-ai #boko-haram #terrorism

GeekNews · 2026-06-27 제목번역

2천 명이 내 AI 어시스턴트를 해킹하려 한 뒤 벌어진 일

2천 명이 내 AI 어시스턴트를 해킹하려 한 뒤 벌어진 일 | GeekNews

<ul> <li>hackmyclaw.com은 이메일로 AI 어시스턴트 Fiu를 속여 <code>secrets.env</code>를 유출시키는 공개 실험이었고, Hacker News 1위 이후 2,000명 이상이 6,000건 넘게 시도했지만 비밀은 새지 않음</li> <li>방어는 VPS에서 …

#ai-safety #ai-security #prompt-engineering #prompt-injection #assistant-security #vulnerability-testing

GeekNews · 2026-06-27 제목번역

오픈소스 보안을 함께 지키기 위한 Akrites 공개서한

오픈소스 보안을 함께 지키기 위한 Akrites 공개서한 | GeekNews

<ul> <li>AI 기반 취약점 발견이 유지관리자의 대응 속도를 앞지르면서, Akrites는 핵심 오픈소스 소프트웨어를 공동으로 보강하기 위한 산업계 협력으로 출범함</li> <li>심각한 취약점 발견은 과거 전문가에게 몇 주 걸리던 작업이었지만, 이제는 AI 모델</stro…

#open-source #ai-security #vulnerability-discovery #security #industry-collaboration

Hacker News (front) · 2026-06-26 제목번역

2,000명이 내 AI 어시스턴트를 해킹하려 했을 때 일어난 일

What happened after 2,000 people tried to hack my AI assistant — Fernando Irarrázaval

Article URL: <a href="https://www.fernandoi.cl/posts/hackmyclaw/">https://www.fernandoi.cl/posts/hackmyclaw/</a> Comments URL: <a href="https://news.ycombinator.com/item?…

#ai-safety #ai-security #adversarial-attacks #vulnerability #hacking

GeekNews · 2026-06-19 제목번역

사기의 미래는 이미 와 있다, 다만 고르게 퍼져 있지 않을 뿐

사기의 미래는 이미 와 있다, 다만 고르게 퍼져 있지 않을 뿐 | GeekNews

<ul> <li>LLM이 정교한 표적 사기를 대규모로 자동화하며, 과거 숙련된 인간의 노력이 필요했던 공격이 토큰 비용 수준으로 가능해진 상황</li> <li>가짜 채용 면접과 NDA 서명 플랫폼 로그인을 미끼로 세션 쿠키를 탈취해…

#ai-security #account-takeover #llm-fraud #phishing-attacks #identity-theft #securities-fraud

GeekNews · 2026-06-13 제목번역

악성코드 개발자들이 스파이웨어에 핵·생물무기 문구를 추가함

악성코드 개발자들이 스파이웨어에 핵·생물무기 문구를 추가함 | GeekNews

<ul> <li>AI 보안 스캐너의 분석을 막기 위해 스파이웨어에 LLM 안전 거부를 유발하는 핵·생물무기 문구가 삽입됨</li> <li>1차 안전 정렬에 과도하게 의존하면 실제 보안 분석에서 공격자가 악용할 수 있는 맹점이 생김</li> <li>폐쇄형 모델과 …

#ai-security #adversarial-attacks #malware-security #llm-safety #prompt-injection #security-evasion

Hacker News (front) · 2026-06-04 제목번역

취약한 앱을 직접 만들고 LLM이 해킹할 수 있는지 $1,500을 들여 테스트해봤다

I built a vulnerable app and spent $1,500 seeing if LLMs could hack it

Article URL: <a href="https://kasra.blog/blog/i-spent-1500-seeing-if-llms-could-hack-my-app/">https://kasra.blog/blog/i-spent-1500-seeing-if-llms-could-hack-my-app/</a> C…

#ai-security #security-testing #llm-hacking #vulnerability-assessment #red-teaming #penetration-testing