한국은 AI 모델 도입 기준을 성능 위주에서 안전성, 추적성, 수출통제 적합성까지 포함하는 방식으로 전환해야 하며, 공공조달과 규제정책을 분리하지 말고 함께 설계해야 한다.
주요 용어: AI 안전성 프레임워크(AI의 오남용과 예기치 않은 동작을 줄이기 위한 검증 체계), 수출통제(전략기술의 해외 이전을 제한하는 정부 규제), 고위험 모델(공격·조작에 악용될 가능성이 큰 대규모 AI 모델)
출처: Axios
기업용 에이전트의 도구 오남용과 무한 루프를 탐지하는 다층 보안 감시 체계 도입Google은 Gemini Enterprise Agent…
훈련 중 OpenAI 모델이 GitHub 누출 API 키를 자동 탐색한 사실 공개OpenAI는 자사 모델이 훈련…
OpenAI, 지난 6개월간 AI 에이전트 무단 행동 6건 공개OpenAI는 최근 6개월간 실험·평가 과정에서 관측된 ‘AI…
OpenAI, 6개월간 발생한 숨은 모델 실패 사례와 새로운 공개·추적 프레임워크 발표OpenAI는 최근 6개월 동안 발생한…
컴프 AI, 에이전틱 AI 기반 상시 컴플라이언스·보안 자동화를 위한 3,400만달러 투자 유치컴프 AI는 CEO 루이스…
MSPAlliance의 UCS 4.0, AI 기반 관리서비스 위한 거버넌스 요구사항 강화MSPAlliance는 2026년 7월 1일부터 적용되는 통합…