오늘의 AI 뉴스 (2026.03.11)

🤖 AI · #1

OpenAI, AI 보안 스타트업 Promptfoo 인수

💡 핵심: 포춘500 기업 25% 이상이 쓰는 보안 툴 — AI 에이전트 시대, '신뢰'가 새 전쟁터가 됐다.

OpenAI가 AI 보안 플랫폼 Promptfoo를 인수한다고 3월 9일 공식 발표했다. Promptfoo는 프롬프트 인젝션(악의적 명령 삽입), 데이터 유출, 툴 오남용 등 AI 시스템의 취약점을 개발 단계에서 자동으로 찾아 고쳐주는 '레드팀(공격자 시점 모의 해킹)' 플랫폼이다. 인수된 기술은 OpenAI의 기업용 에이전트 플랫폼 'Frontier'에 직접 통합될 예정으로, AI 에이전트가 실제 업무 시스템에 투입될수록 보안과 규정 준수(컴플라이언스)가 핵심 인프라가 됨을 보여준다. 금융 조건은 공개되지 않았지만, 이 인수는 에이전트 AI 경쟁에서 '안전한 배포 능력'이 곧 기업 판매의 핵심 무기가 되고 있음을 선명하게 드러낸다.

👉 이렇게 써봐: AI 에이전트를 도입 중이거나 검토 중인 기업이라면, 이제 '어떤 모델을 쓸 것인가'보다 '어떻게 안전하게 운영할 것인가'가 더 중요한 질문이다. Promptfoo의 오픈소스 CLI는 현재도 GitHub에서 무료로 사용할 수 있으며, 자체 AI 시스템의 취약점을 직접 점검하는 출발점으로 삼을 수 있다.

🤖 AI · #2

카르파티의 'autoresearch' — AI가 밤새 실험한다

💡 핵심: 하룻밤에 실험 100회 — 인간 연구자가 20년간 놓친 최적화를 AI가 이틀 만에 찾았다.

전 테슬라 AI 총괄이자 OpenAI 공동창업자인 안드레이 카르파티가 630줄짜리 오픈소스 스크립트 'autoresearch'를 공개했다. 이 도구는 AI 에이전트에게 GPU 하나와 훈련 스크립트를 주면, 에이전트 스스로 코드를 수정하고 5분짜리 실험을 돌린 뒤 결과가 나쁘면 되돌리고 다시 시도하는 루프를 밤새 반복한다. 실제로 카르파티가 2일간 돌린 결과, 에이전트는 약 700번의 자율 변경을 수행했고 그 중 약 20개의 유효한 개선안을 발견해 모델 학습 효율을 11% 끌어올렸다. GitHub 공개 직후 수천 개의 별(star)이 달렸고, 마케팅·비즈니스 등 다른 분야로도 적용을 실험하는 커뮤니티가 빠르게 형성되고 있다.

👉 이렇게 써봐: 이 도구의 진짜 의미는 'AI가 코드를 쓴다'에서 한 단계 더 나아가, 이제 AI가 스스로 가설을 세우고 검증한다는 것이다. 연구자나 개발자라면 지금 GitHub에서 직접 실험해볼 수 있고, 당장 ML이 아니더라도 '반복 실험 → 지표 개선'이라는 구조가 있는 업무라면 같은 방식을 적용할 수 있다.

🤖 AI · #3

Grammarly, 동의 없이 실존 인물 AI로 만들다

💡 핵심: 사망한 학자까지 포함 — '공개된 글'이 곧 '상업적 인격 도용'이 되는 AI 시대의 경고.

Grammarly(현 모회사 Superhuman)의 'Expert Review' 기능이 큰 논란에 휩싸였다. 이 기능은 스티븐 킹, 닐 디그래스 타이슨 등 실존하는(혹은 사망한) 저명인의 이름을 붙여 AI가 생성한 글쓰기 피드백을 제공하는데, 해당 인물들의 동의를 전혀 구하지 않았다. 케임브리지 역사학자 데이비드 아불라피아는 2026년 1월 사망 후에도 그의 AI 페르소나가 계속 서비스에 사용됐으며, 학계와 언론계에서 '디지털 강령술'이라는 비판이 터져나왔다. 회사 측은 '공개된 저작물을 기반으로 한다'고 해명했지만, 법학자들은 미국 다수 주의 퍼블리시티권(공인의 상업적 이용 제한) 위반 가능성을 지적한다. 비판 이후 Grammarly는 옵트아웃(개별 이메일로 제외 요청) 수단을 제공하겠다고 밝혔으나, 기본값이 '포함'이라는 점에서 논란은 계속되고 있다.

👉 이렇게 써봐: 이 사건은 단순한 앱 기능 논란을 넘어, AI 시대에 '내 이름과 글이 어떻게 쓰이는가'를 묻는 구조적 질문이다. 글을 공개적으로 발표하는 작가·연구자·저널리스트라면 Grammarly 외에도 자신의 정체성이 AI 학습·서비스에 활용되는 방식을 점검할 필요가 있으며, 관련 법제화 움직임을 주시해야 한다.

오늘의 AI 트렌드

AI 에이전트가 기업 시스템에 실제로 투입되고, 자율적으로 실험하며, 인간의 정체성을 흉내 내기 시작하면서 — 기술의 속도는 이미 법·윤리·보안의 대응 속도를 앞질렀다. 오늘의 세 뉴스는 모두 같은 질문을 가리킨다: AI가 더 많은 권한을 가질수록, 누가 그것을 통제하고 책임지는가.