AI 에이전트에게 서버 작업을 맡겨봤습니다 — 어디까지 믿고, 어디서 멈춰 세워야 하는가

저희는 최근 사내 비밀번호·API 키 관리 체계를 외부 서비스에서 자체 호스팅 시스템으로 옮기는 작업을 AI 에이전트에게 맡겨 봤습니다. 결과는 반반이었습니다. 서버 설정과 반복적인 데이터 이관은 끝까지 해냈지만, 위험한 지점 세 곳에서는 AI가 스스로 멈추고 사람에게 돌려보냈습니다.

• 서버 접속, 프로그램 설치, HTTPS 인증서 연결까지는 사람 개입 없이 완료
• 기존 시스템에 있던 수백 개 항목의 이관도 사람이 파일 하나만 내보내 주면 자동으로 분류
• 비밀번호 데이터베이스 직접 조작, 대량 일괄 추출, 로그인 대리 수행 — 이 세 가지는 AI가 스스로 거부
• "얼마나 빠른가"보다 "이 경계가 명확한가"가 AI 도입 여부를 가르는 기준

실제로 끝까지 된 일

서버에 직접 접속해 필요한 프로그램을 설치하고, 웹에서 안전하게(HTTPS) 접속되도록 인증서까지 연결하는 작업은 사람 개입 없이 끝났습니다. 기존 시스템에 있던 수백 개 항목을 새 시스템으로 옮기는 일도, 사람이 파일을 한 번 내보내 주자 그 뒤로는 자동으로 분류해 정리했습니다.

관리자 계정의 접근 토큰을 안전한 형태로 변환하는 작업도 표준 라이브러리를 찾아 즉석에서 처리했습니다. 사람이 순서만 정해 주면, 정해진 절차를 반복 수행하는 데는 막힘이 없었습니다. 자료를 한곳에 모으는 인프라 작업을 AI에게 맡겼을 때도 비슷했습니다 — Gitea·NAS로 흩어진 사내 자산을 통합한 사례에서도 반복적인 정리 작업은 AI가 빠르게 처리했고, 사람은 구조를 정하는 판단에만 집중했습니다.

AI가 스스로 멈춘 지점

세 번 멈췄습니다. 모두 "할 수 있는가"가 아니라 "해도 되는가"의 문제였습니다.

상황	AI의 반응
비밀번호 데이터베이스를 직접 열어 문제를 우회하려 했을 때	전체 구성원의 암호화된 데이터가 든 파일이라 판단해 실행을 스스로 막음
수백 개의 비밀번호를 스크립트로 한 번에 뽑아내려 했을 때	원본 서비스가 제공하지 않는 일괄 추출 기능이라 재차 거부하고, 매번 재인증을 요구하는 공식 내보내기 기능으로 되돌아감
마스터 비밀번호가 있어야 열리는 화면을 대신 조작하려 했을 때	비밀번호를 알려주겠다는 제안도 받지 않고, 사람에게 클릭을 돌려보냄

이 세 지점은 우연히 막힌 것이 아닙니다. 첫 번째는 "되돌리기 어려운 작업", 두 번째는 "정상 경로를 벗어난 우회", 세 번째는 "서버조차 알 수 없게 설계된 값"이라는 공통점이 있습니다. AI가 판단을 내려놓아야 할 지점이 사람이 설계해 둔 구조 안에 이미 있었던 셈입니다.

사람이 여전히 해야 했던 일

반대로, AI가 기술적으로는 할 수 있는데도 사람 몫으로 남겨 둔 일도 있었습니다. 신규 직원을 조직에 초대하는 절차, 데이터를 분류함에 배정하는 절차는 로그인 세션이 있어야만 가능해서 사람이 화면을 보고 눌러야 했습니다. 이 구조는 관리자 한 명이 실수로라도 전체 조직 데이터를 조작할 수 없게 만드는 설계였고, AI 도입 이전부터 그렇게 짜여 있었습니다. AI를 들인다고 해서 이 경계가 느슨해지지는 않았습니다.

정리하면

구분	내용
AI가 끝까지 처리	서버 설정, 인증서 연결, 반복 데이터 이관, 토큰 안전 변환
AI가 스스로 거부	데이터베이스 직접 조작, 대량 비밀번호 일괄 추출, 로그인 대리 수행
사람이 계속 담당	조직·권한 관련 화면 조작, 최종 확인

AI가 빨라진 것은 반복 작업이었고, 멈춘 것은 되돌리기 어렵거나 설계상 사람만 할 수 있게 막아 둔 지점이었습니다. 이 경계가 명확할수록 AI에게 맡길 수 있는 범위도 넓어집니다. 반대로 이 경계가 불분명한 도입은 편리함과 사고 사이의 거리를 좁혀 놓을 뿐입니다.

자주 묻는 질문

AI 에이전트에게 서버 작업을 맡기면 위험하지 않나요? 작업 자체보다 "AI가 스스로 멈출 지점이 설계돼 있는가"가 더 중요합니다. 되돌리기 어려운 작업, 대량 데이터를 한 번에 다루는 작업, 사람만 인증할 수 있는 절차는 AI가 거부하도록 구조를 짜야 합니다.

AI가 알아서 위험한 작업을 판단하고 멈추나요? 전적으로 AI 판단에만 맡기지 않습니다. 실행 환경 자체에 승인 절차를 넣어, AI가 특정 종류의 작업을 시도하면 사람 확인 없이는 진행되지 않게 막아 둡니다.

어떤 작업까지 AI에게 맡길 수 있나요? 정해진 순서를 반복하는 작업, 되돌리기 쉬운 작업은 대부분 가능합니다. 반대로 한 번 실행하면 되돌릴 수 없거나, 여러 사람의 데이터에 동시에 영향을 주는 작업은 사람 확인을 거치게 하는 것이 안전합니다.

AI 도입 전에 먼저 확인해야 할 것은 무엇인가요? 속도보다 경계입니다. 어떤 작업까지 맡기고 어디서부터 사람이 확인해야 하는지를 먼저 정한 뒤에 도구를 고르는 순서가 맞습니다.

저희가 이 이야기를 하는 이유

에버스톤은 2013년 부산에서 시작해 13년째 교육 솔루션과 업무 시스템, 모바일 앱, VR/AR 콘텐츠, 자체 게임 IP를 만들어 왔습니다. 공공·교육기관 사업도 20건 넘게 수행했습니다.

위에 적은 내용은 자문한 결과가 아니라 저희가 실제로 쓰는 사내 시스템에 먼저 적용해 본 기록입니다. AI 도입을 검토할 때 가장 먼저 물어야 할 것은 속도가 아니라 "이 시스템이 스스로 멈춰야 할 때 멈추는가"라고 생각합니다. 저희는 그 경계를 직접 운영하며 확인한 뒤에만 고객사에 제안합니다.