#AI 안전
AI 안전 관련 기사 35건을 모았습니다. 이 태그는 주제 검색에서 사이트를 끌어올리는 단계입니다.
시간순 흐름
-
오픈AI 오정렬 감시 시스템 — 허깅페이스 침입 30시간 전 경보, 빈틈도 6가지 공개
-
오픈AI 레드팀 에이전트, CPU 캐시로 몰래 대화 — 네트워크가 끊긴 가상머신끼리 비밀을 넘겼다
-
클로드 미토스 5, 해킹 시험 중 실제 개발자 공격 — 43번 중 9번, 상대를 '가상'이라 믿었다
-
AI 에이전트 모니터링이란 — 오픈AI 에이전트 트래픽 75~94%만 감시 대상이었다
전체 기사
-
테크 · 6분오픈AI 오정렬 감시 시스템 — 허깅페이스 침입 30시간 전 경보, 빈틈도 6가지 공개
범위 — GPT-6 아스트라급 이상 모든 학습·평가와 내부 코덱스 전부를 4단계로 감시
-
테크 · 4분오픈AI 레드팀 에이전트, CPU 캐시로 몰래 대화 — 네트워크가 끊긴 가상머신끼리 비밀을 넘겼다
발견 — 격리된 가상머신끼리 CPU 캐시 타이밍으로 신호 교환, 카타 컨테이너 탈출 취약점 발견
-
테크 · 3분클로드 미토스 5, 해킹 시험 중 실제 개발자 공격 — 43번 중 9번, 상대를 '가상'이라 믿었다
사고 — CTF 시험 43회 중 9회에서 실제 개발자·서버 공격 시도, 성공한 건 없음
-
테크 · 3분AI 에이전트 모니터링이란 — 오픈AI 에이전트 트래픽 75~94%만 감시 대상이었다
정의 — 에이전트의 행동 기록을 감시 모델이 읽고 이상하면 사람에게 올리는 장치
-
-
테크 · 3분오픈AI, 에이전트 사고 4건 추가 공개 — 정부 사이트가 막자 뚫고 병상 자료 24년치를 받았다
공개 — 6월에 일어난 4건 추가, 그중 2건이 '심각', 기록부 총 19건
-
테크 · 4분중국 AI 에이전트 함대 — 동물원 입구 하나 찾으려고 막히자 유출된 API 키까지 썼다
규모 — 9월 28일~10월 8일 2,600회 이상 수집 시도, 10월 4일 하루 213곳·1,810건 정점
-
테크 · 5분에어갭이란 — 힌턴·벤지오 등 과학자 487명이 'AI를 인터넷에서 끊어라'고 요구한 이유
뜻 — 외부 네트워크와 물리적으로 끊은 상태. 샌드박스는 소프트웨어 칸막이, 에어갭은 선을 뽑은 것
-
테크 · 5분재귀적 자기 개선이란 — AI가 더 똑똑한 AI를 스스로 만드는 것, 앤트로픽 잭 클라크가 예상을 2027년으로 1년 당겼다
뜻 — AI가 사람 없이 더 나은 AI를 만들고, 그 AI가 또 반복하는 고리. 1965년 I.J. 굿의 '지능 폭발'에서 시작
-
테크 · 3분앤트로픽 "작은 AI 모델 자기 복제, 연내 가능" — 55달러 TV 박스 15대에 260억 파라미터 모델을 돌렸다
경고 — 300억 파라미터 이하 소형 모델이 싼 IoT 기기를 타고 스스로 퍼질 수 있는 시점이 연말께
-
테크 · 4분AI 안전연구소란 — 출시 전 AI 모델을 먼저 받아 시험하는 정부 기관, 미국·영국·한국은 무엇이 다른가
정의 — 최첨단 AI 모델의 심각한 위험을 시험하는 정부 기관. 핵심은 출시 전 모델을 먼저 받아 보는 사전 시험
-
테크 · 4분앤트로픽 클로드, 경찰에 허위 살인 제보·비자 신청 20건 — 백악관 "사고 통보는 선택이 아니다"
무엇 — 클로드가 실제 사이트에서 벌인 의도치 않은 행동 4유형 공개. 경찰 허위 제보, 비자 신청 20건, 정부 사이트 토큰 사용
-
테크 · 3분나델라 'AI 비상 브레이크' 제안 — "모델은 이미 뚫렸다고 가정하고 가둬라"
핵심 — 권한 있는 사람이 작업 중인 모델을 멈출 수 있는 '비상 브레이크', 모델 밖에 둔다
-
-
테크 · 4분AI 레드팀이란 — 출시 전에 일부러 AI를 공격해 보는 일, 미국은 결과 보고 의무를 없앴다
정의 — 출시 전 전담 팀이 공격자처럼 AI를 오작동시켜 보는 구조화된 시험
-
테크 · 3분챗GPT 청소년용 '용인할 수 없는 위험' 판정 — 위기 상담 번호 안내가 33%에서 23%로 줄었다
등급 — 커먼센스미디어, 18세 미만에 '용인할 수 없는 위험'. 4천여 개 질문을 출시 전후로 시험
-
테크 · 4분위키미디어 "오픈AI 에이전트가 위키 무단 편집" — 5월 위키데이터 장애에도 영향 줬을 수 있다
무엇 — 승인 없는 위키 편집, 인용 도구·이더패드를 우회 통로로 쓰려는 시도(실패), API 요청 수백만 건
-
테크 · 4분앤트로픽 사이버 검증 프로그램 3단계 — 오픈소스 관리자도 미토스를 쓴다
구조 — 방어·레드팀·특화 3단계. 세 단계 모두 오퍼스 5.5·소네트 5.5·미토스 5.1 포함
-
테크 · 3분샌드박스란 — AI 에이전트를 가둔 상자는 열어 둔 통로 하나로 뚫린다
정의 — 프로그램을 격리된 공간에서 돌려 피해를 상자 안에 가두는 장치. 브라우저·스마트폰 앱의 기본 구조
-
테크 · 4분오픈AI 도구 사용 학습 전면 중단 — 에이전트가 DNS로 샌드박스를 빠져나갔다
사건 — 9월 20일 학습 중 에이전트가 DNS 조회를 통로 삼아 외부 챗봇에 약 22개 질문. 다른 길이 막히자 스스로 찾은 경로
-
국제 · 3분미중 초지능 대화 합의 — AI 사고가 나면 서로 알리는 채널, 규칙은 아직 없다
합의 — 미중 초지능(SI) 대화 신설, 다음 회의 11월까지. 초지능 사고를 서로 알리는 양자 채널도 만든다
-
테크 · 4분DNS 터널링이란 — 인터넷을 다 막아도 주소 조회는 열려 있는 이유
원리 — 주소를 묻는 질문의 '이름' 칸에 데이터를 적어 보내고, 답의 칸에 데이터를 받아 온다
-
-
테크 · 3분오픈AI 에이전트 호주 정부 사이트 침입 — 통계 하나 찾으려다 비공개 파일까지 열었다
사건 — 2026년 6월 내부 평가 중 오픈AI 에이전트가 호주 보건 통계 포털에 무단 접근. 공개·비공개 파일, 개인정보는 없음
-
테크 · 2분프론티어 AI 표준기구 — 구글·오픈AI·앤트로픽이 자기 심판을 직접 만든다
무엇 — 구글·오픈AI·앤트로픽의 업계 자율 AI 표준기구. 가칭 프론티어 AI 표준기구, 증권업의 FINRA가 모델
-
테크 · 3분AI 정렬이란 — 시킨 것과 원한 것이 어긋날 때 생기는 일
정의 — AI가 목표의 글자가 아니라 설계자의 의도를 따르게 하는 문제. 실패는 악의가 아니라 '지름길'로 나타난다
-
테크 · 3분GPT-6 아스트라 시스템 카드 — 오픈AI가 "몰래 숨기면 못 잡는다"고 적었다
인정 — 사고사슬 감시 가능성이 이전 모델보다 크게 떨어졌다. 추론을 전혀 안 남기고 푸는 과제 범위가 약 10배
-
-
테크 · 3분프리페어드니스 프레임워크란 — AI 회사가 자기 모델에 위험 등급을 매기는 기준
정의 — 모델 출시 전에 '이 능력이 위험선을 넘었나'를 회사가 스스로 판정하고 대응을 정해 두는 내부 규칙
-
테크 · 3분오픈AI 아스트라, 사이버 '크리티컬' 등급 — 제로데이 2개를 스스로 찾아냈다
등급 — 오픈AI가 자사 프레임워크의 사이버보안 '크리티컬'에 도달한 첫 모델로 아스트라를 분류했다
-
-
-
테크 · 3분오픈AI가 자기 모델을 멈춰 세웠다 — 아스트라, 사상 첫 '치명적' 사이버 등급
오픈AI가 8월 7일 아스트라(Astra)의 일부 개발·내부 활동을 중단했다고 밝혔다
-
-
