라떼군 뉴스
AI 에이전트, 혼자 결정하게 두면 위험할까?
이 글은 다음 링크를 참고하여 인사이트를 더한 것입니다. 원문은 해당 링크에서 확인해주세요: https://blog.cloudflare.com/building-agents-at-knock-agents-sdk/↗
AI는 똑똑해지고 있지만, 중요한 순간엔 여전히 사람의 도움이 필요할 수 있습니다.
Cloudflare와 Knock은 카드 발급 같은 민감한 요청이 들어오면, 관리자에게 Slack, 이메일, 푸시 메시지로 승인 요청을 보내고, 응답을 기다려야만 다음 단계로 넘어가는 구조를 만들었습니다.
Knock의 워크플로우와 Cloudflare Durable Object를 통해 실시간 상호작용과 상태 저장, 그리고 사람의 개입이 자연스럽게 통합된 시스템이 구현된 것입니다.
모든 자동화가 완전히 자동일 필요는 없습니다. AI에게도 ‘멈추고 물어야 할 때’가 필요할 수 있습니다.
ShareAI 에이전트, 혼자 결정하게 두면 위험할까? Knock과 Cloudflare가 사람이 승인하는 AI 에이전트를 만든 방법 Cloudflare와 Knock은 카드 발급 같은 작업을 사람의 승인 후 진행하도록 구성했습니다. 하지만 올바를 방향일까요? AI에게도 ‘멈추고 물어야 할 때’가 필요하지 않을까요? 사람 개입은 제약이 아니라 기능입니다. #AI에이전트 #Cloudflare #Knock #사람개입 #HumanInTheLoop https://news.mrlatte.net/posts/2025/06/09/ai-agent-human-approval/