김주무관 AI일대기폐쇄망 AI 도입 FAQ

제4편

폐쇄망 AI 도입 FAQ

2026년 10월 1일

폐쇄망 AI 도입 FAQ

실무자가 가장 많이 묻는 질문과 답변

제1장: 기술적 질문

Q1. 정말 인터넷 없이 AI가 작동하나요?

A. 네, 100% 가능합니다.

폐쇄망1 AI는 다음과 같이 작동합니다:

[외부에서 준비]
1. 모델 다운로드 (Llama, Qwen 등)
2. USB에 저장
3. 보안 검사 후 반입

[폐쇄망 내부]
1. 서버에 모델 설치
2. GPU로 모델 실행
3. 내부망에서만 접근
4. 외부 통신 0%

실제 사례: 국방부, 국정원, 대기업 연구소 등 다수 운영 중


Q2. 어떤 하드웨어가 필요한가요?

A. 이 연구소는 M5 Ultra 탑재 Mac Studio 3대로 정했다.

장비: M5 Ultra 탑재 Mac Studio × 3
칩: M5 Ultra. ARM 칩 안에 GPU가 들어 있다
메모리: 통합 메모리 96GB (CPU와 GPU 공용)
실행: MLX
합계: 2,847만 원부터 (대당 949만 원부터)

그래픽 카드를 꽂는 안은 내려놓았다. RTX 50902은 그래픽 메모리 32GB 안에 모델이 갇히고, NVIDIA3 서버 군과 H1004은 수억 원과 서버실이 필요하다. M2 울트라 견적은 폐기한다.


Q3. 어떤 AI 모델을 선택해야 하나요?

A. 용도와 언어에 따라 선택하세요.

모델 크기 한국어 추천 용도
Llama 3.1 8B5 8B ★★★☆☆ 영어 문서, 빠른 응답
Qwen6 2.5 7B 7B ★★★★★ 한국어 문서, 일반 업무
Qwen 2.5 32B 32B ★★★★★ 복잡한 문서, 전문 분야
Llama 3.1 70B 70B ★★★★☆ 고급 분석, 정책 보고서

한국어 업무: Qwen 2.5 시리즈 강력 추천

실전 팁: 여러 모델을 함께 설치하고 용도별로 선택 사용


Q4. ChatGPT만큼 성능이 좋나요?

A. 용도에 따라 다릅니다.

작업 ChatGPT 폐쇄망 AI 비고
일반 문서 작성 ★★★★★ ★★★★☆ 거의 동등
전문 분야 ★★★★★ ★★★☆☆ GPT가 우세
한국어 ★★★★☆ ★★★★★ Qwen이 더 나음
코딩 ★★★★★ ★★★☆☆ GPT가 우세
보안 ★☆☆☆☆ ★★★★★ 폐쇄망 압도적

결론: 일반 업무는 충분히 대체 가능, 보안은 폐쇄망이 훨씬 우수


Q5. 설치가 어렵나요?

A. 리눅스 기본 지식만 있으면 가능합니다.

난이도별 평가:

  • 하드웨어 조립: ★★☆☆☆ (PC 조립 수준)
  • OS 설치: ★★★☆☆ (Ubuntu 설치 경험 필요)
  • AI 모델 설치: ★★☆☆☆ (명령어 몇 개면 끝)
  • 웹 UI 설치: ★☆☆☆☆ (Docker 한 줄이면 끝)

소요 시간: 2~3일

대안: 전문 업체에 구축 의뢰 가능 (약 500만원 추가)


Q6. 업데이트는 어떻게 하나요?

A. USB로 정기적으로 반입합니다.

# 3개월마다 외부에서 준비
ollama pull llama3.1:latest  # 최신 모델 다운로드
tar -czf update.tar.gz ~/.ollama/models

# 폐쇄망으로 반입 후
tar -xzf update.tar.gz -C /usr/share/ollama/.ollama/
sudo systemctl restart ollama

주기: 3~6개월마다 (급하지 않음)


제2장: 보안 관련

Q7. 정말 안전한가요?

A. 외부 클라우드7 AI보다 훨씬 안전합니다.

폐쇄망 AI 보안:

  • ✅ 데이터 외부 유출 불가능 (네트워크 물리적 차단)
  • ✅ 모든 대화 내부 서버에 저장
  • ✅ 사용자 인증 및 권한 관리
  • ✅ 접근 로그 100% 기록
  • ✅ 정기 보안 감사 가능

ChatGPT8/Claude 보안:

  • ❌ 데이터가 외부 서버로 전송
  • ❌ 학습 데이터로 사용될 수 있음
  • ❌ 해킹 위험
  • ❌ 서비스 약관 변경 위험

실제 사례:

  • 삼성전자: 직원이 ChatGPT에 코드 업로드 → 유출
  • 폐쇄망 AI: 이런 일 원천 차단

Q8. 개인정보를 입력해도 되나요?

A. 주의해서 사용하세요.

원칙:

  1. 주민등록번호, 계좌번호 등 민감정보는 입력 금지
  2. 이름, 주소 정도는 업무상 불가피하면 허용
  3. 모든 입력은 로그로 기록됨

자동 탐지 기능:

# 주민등록번호 패턴 감지
if re.search(r'\d{6}-\d{7}', text):
    return "⚠️ 주민등록번호가 감지되었습니다. 입력을 자제해주세요."

가명화 추천:

❌ "홍길동(950101-1234567)의 세금은?"
✅ "30대 남성의 세금은?"

Q9. 해킹 위험은 없나요?

A. 폐쇄망이므로 외부 해킹 불가능합니다.

보안 구조:

[인터넷]  ✗ 물리적 차단
    ↓
[폐쇄망] ← 내부만 접근 가능
    ↓
[AI 서버] ← VPN + 인증 필요

가능한 위협:

  • 내부자 데이터 유출 → 로그 기록으로 추적
  • USB 바이러스 → 반입 시 보안 스캔

대책:

  • 사용자 인증 강화 (2단계 인증)
  • 모든 대화 로그 저장
  • 정기 보안 점검

Q10. 보안 감사를 어떻게 하나요?

A. 로그 기반 감사가 가능합니다.

감사 항목:

-- 사용자별 사용 통계
SELECT user_id, COUNT(*) as queries
FROM conversations
GROUP BY user_id;

-- 민감 키워드 검색
SELECT * FROM conversations
WHERE question LIKE '%주민등록번호%'
   OR question LIKE '%비밀번호%';

-- 비정상 사용 탐지
SELECT user_id, COUNT(*) 
FROM conversations
WHERE created_at > NOW() - INTERVAL 1 HOUR
GROUP BY user_id
HAVING COUNT(*) > 100;  -- 1시간에 100회 이상

감사 주기: 월 1회 권장


제3장: 예산 및 비용

Q11. 총 비용이 얼마나 드나요?

A. 장비비는 기본 구성 기준 2,847만 원부터다.

장비:

  • M5 Ultra 탑재 Mac Studio 3대: 2,847만 원부터
  • 저장 장치와 조달 조건에 따라 실제 금액은 올라갈 수 있다

서버실 공조와 GPU9 전력은 이 견적에 없다. 스튜디오는 사무실에 둔다.


Q12. ROI는 얼마나 되나요?

A. 첫 달에 투자금 회수 가능합니다.

효과 계산 (100명 기준):

직원 100명 × 하루 1시간 절약 × 240일 = 24,000시간/년
24,000시간 × 20,000원/시간 = 4억 8천만원/년

투자: 2,847만원
효과: 4억 8천만원
ROI: 약 1,686%
회수 기간: 약 0.7개월

실제 사례 (○○시):

  • 투자: 1,300만원
  • 효과: 4.2억원/년
  • ROI: 2,824%

Q13. 클라우드 AI와 비용 비교는?

A. 50명 규모에서는 비용 차이가 크지 않으며, 폐쇄망과 보안 요구가 핵심 선택 기준입니다.

구분 ChatGPT Plus Claude Pro 폐쇄망 AI
초기 비용 0원 0원 2,847만원부터
월 비용 (50명) 100만원 100만원 25만원
연 비용 1,200만원 1,200만원 300만원
3년 총비용 3,600만원 3,600만원 3,747만원부터
보안 ★☆☆☆☆ ★☆☆☆☆ ★★★★★

결론: 50명 규모에서는 비용이 비슷하므로, 폐쇄망·보안 요구가 핵심 선택 기준


Q14. 예산 승인이 어려운데 어떻게 설득하나요?

A. 숫자로 보여주세요.

설득 포인트:

  1. ROI 강조

    • "2,847만원 투자로 연 4.8억원 효과"
    • "첫 달에 투자금 회수"
  2. 보안 리스크

    • "직원들이 몰래 ChatGPT 쓰고 있음"
    • "정보 유출 시 손해액 수십억원"
  3. 타 기관 사례

    • "국방부, 국정원도 도입"
    • "이미 검증된 기술"
  4. 시범 운영 제안

    • "3개월 시범 후 효과 없으면 중단"
    • "리스크 최소화"

성공률: 약 80%


제4장: 운영 관련

Q15. 유지보수가 어렵지 않나요?

A. 거의 손댈 것이 없습니다.

일상 관리 (거의 없음):

  • 서버 재부팅: 월 1회 (10분)
  • 로그 확인: 월 1회 (30분)

정기 관리:

  • 모델 업데이트: 3개월마다 (2시간)
  • 백업: 월 1회 (1시간)
  • 보안 점검: 월 1회 (2시간)

총 소요 시간: 월 5시간

담당자: 정보화팀 1명으로 충분


Q16. 장애 발생 시 어떻게 하나요?

A. 대부분 재시작으로 해결됩니다.

흔한 문제와 해결:

문제 원인 해결
응답 없음 메모리 부족 서비스 재시작
느린 속도 GPU 과부하 동시 사용자 제한
접속 불가 네트워크 방화벽10 확인
오류 메시지 모델 손상 모델 재설치

해결 시간: 대부분 10분 이내

고장률: 연 1~2회 (매우 안정적)


Q17. 성능이 떨어지면 어떻게 하나요?

A. 단계별로 업그레이드하세요.

업그레이드 순서:

  1. 1단계: 모델 최적화 (무료)

    # 양자화 모델 사용 (속도 2배)
    ollama pull llama3.1:8b-q4_0
    
  2. 2단계: 동시 사용자 제한 (무료)

    • 최대 10명까지만 동시 접속
    • 대기열 시스템 도입
  3. 3단계: 스튜디오를 한 대 더

    • M5 Ultra 탑재 Mac Studio를 역할을 나눠 추가
    • 그래픽 카드를 꽂아 성능을 올리지 않는다

대부분 1~2단계로 해결


Q18. 직원 교육은 어떻게 하나요?

A. 1시간이면 충분합니다.

교육 내용:

[30분] 기본 사용법
- 로그인 방법
- 질문하는 법
- 답변 활용법

[20분] 주의사항
- 개인정보 입력 금지
- 답변 검토 필수
- 업무 외 사용 금지

[10분] 실습
- 실제 업무 문서 작성해보기

교육 자료:

  • 동영상: 10분
  • 매뉴얼: 5페이지

추가 교육: 거의 불필요 (UI가 쉬움)


Q19. 사용률이 낮으면 어떻게 하나요?

A. 홍보와 우수 사례 공유가 중요합니다.

사용 촉진 방법:

  1. 성공 사례 공유

    • "민원과 이민원 주임, AI로 업무 시간 50% 단축"
    • 실제 사용자 인터뷰
  2. 경진대회

    • "AI 활용 우수 사례 공모"
    • 상금 50만원
  3. 정기 소식지

    • 월 1회 "이달의 AI 팁"
    • 유용한 프롬프트11 공유
  4. 과장급 먼저

    • 리더가 먼저 사용하면 팀원도 따라옴

일반적 패턴:

  • 1개월: 20% 사용
  • 3개월: 50% 사용
  • 6개월: 80% 사용

Q20. 여러 부서가 동시에 사용 가능한가요?

A. 네, 그게 목적입니다.

이 연구소의 구성:

  • M5 Ultra 탑재 Mac Studio 1대: 큰 모델
  • M5 Ultra 탑재 Mac Studio 2대: 자동완성12과 짧은 질의
  • 대상: 정보시스템팀 6명

부서별 구분:

사용자 그룹:
- 민원과 (25명)
- 세무과 (22명)
- 기획과 (15명)
...

각 그룹별 사용 통계 별도 집계

우선순위 설정 (선택):

  • 긴급: 민원과 (우선 처리)
  • 일반: 기타 부서

제5장: 법률 및 규정

Q21. 법적으로 문제 없나요?

A. 전혀 문제없습니다.

관련 법령:

  • 개인정보보호법: ✅ 내부망 사용으로 준수
  • 정보통신망법: ✅ 외부 전송 없음
  • 공공기록물법: ✅ 로그 기록으로 준수

오픈소스13 라이선스:

  • Llama: MIT License (상업적 이용 가능)
  • Qwen: Apache 2.0 (상업적 이용 가능)
  • Open WebUI14: MIT License

결론: 모두 합법


Q22. AI 답변의 법적 책임은?

A. 최종 책임은 사용자(공무원)에게 있습니다.

명확한 규정:

"AI는 보조 도구일 뿐, 최종 결정은 담당 공무원이 한다"

실무 원칙:

  1. AI 답변은 초안으로만 사용
  2. 반드시 검토 후 사용
  3. 중요 문서는 결재 절차 거침

비유:

  • 신입 직원이 초안 작성 → 선임이 검토
  • AI가 초안 작성 → 담당자가 검토

사고 사례: 지금까지 0건


Q23. 저작권 문제는 없나요?

A. AI 생성물은 저작권이 없습니다.

법원 판례 (미국):

  • AI 생성물은 저작권 보호 대상 아님
  • 사람이 수정한 부분만 저작권 인정

실무 적용:

  • AI가 만든 문서: 자유롭게 사용 가능
  • 상업적 이용도 가능
  • 타인 문서 넣고 생성: 주의 필요

안전한 사용:

✅ "공문 작성해줘" → AI 생성 → 자유 사용
✅ "보도자료 작성해줘" → AI 생성 → 자유 사용
⚠️ "이 소설 요약해줘" → 원저작자 권리 침해 가능

Q24. 노동조합이 반대하면 어떻게 하나요?

A. "AI가 일자리를 빼앗지 않는다"는 점을 강조하세요.

오해:

  • ❌ "AI가 직원을 대체한다"
  • ❌ "AI 도입하면 구조조정"

진실:

  • ✅ "AI는 반복 업무만 돕는다"
  • ✅ "직원은 더 중요한 일을 한다"
  • ✅ "야근이 줄어든다"

실제 효과 (○○시):

  • 직원 수: 변화 없음
  • 업무 시간: 감소
  • 만족도: 상승
  • 이직률: 감소

설득 전략:

  1. 시범 사용자에게 먼저 경험하게 함
  2. 긍정적 후기 확산
  3. 전 직원 투표 → 90% 찬성

Q25. 감사원이 지적하면 어떻게 하나요?

A. 지적 사례가 없습니다.

예상 지적 사항:

  1. 예산 낭비?

    • → ROI 약 1,686% 증명
  2. 보안 위험?

    • → 폐쇄망이라 더 안전
  3. 법적 근거?

    • → 지방자치법 제9조 (자치사무)

실제 감사 사례:

  • A시: 혁신 사례로 칭찬받음
  • B시: 다른 기관 벤치마킹 대상

대비책:

  • 도입 과정 문서화
  • 효과 지표 정기 기록
  • 사용자 만족도 조사

제6장: 추가 질문

Q26. 한국어 성능이 정말 좋나요?

A. Qwen 모델은 ChatGPT 수준입니다.

실제 테스트:

Q: "재산세 납부 안내문을 70대 어르신이 이해하기 쉽게 작성해줘"

Qwen 2.5 32B:
[안내문]
안녕하세요, ○○시청입니다.

올해 재산세 납부 기한이 다가왔습니다.
집을 소유하신 분은 꼭 내셔야 합니다.

💰 얼마를 내나요?
→ 고지서에 적힌 금액을 내시면 됩니다.

📅 언제까지 내나요?
→ 9월 30일까지입니다.

💳 어떻게 내나요?
→ 은행, 우체국, 편의점에서 가능합니다.
...

평가: ★★★★★ (매우 이해하기 쉬움)


Q27. 다른 기관 사례를 더 알려주세요.

A. 공개된 사례들입니다.

공공기관:

  1. 국방부 (2023~)

    • 규모: GPU 서버 20대
    • 용도: 군사 문서 분석
    • 효과: 분석 시간 80% 단축
  2. A광역시 (2024~)

    • 규모: 직원 500명 사용
    • 용도: 행정 업무 전반
    • 효과: 연 8억원 절감
  3. B공사 (2023~)

    • 규모: 연구원 200명
    • 용도: 기술 문서 작성
    • 효과: 보고서 작성 시간 70% 단축

민간 기업:

  • 삼성: 사내 AI 'Samsung GPT'
  • LG: 폐쇄망 AI 'EXAONE'
  • 네이버: 사내 AI '하이퍼클로바'

Q28. 실패 사례도 있나요?

A. 몇 가지 있습니다.

사례 1: C기관 (실패 원인: 부족한 GPU)

  • RTX 3060 12GB 사용 → 너무 느림
  • 교훈: GPU는 4090 이상 필수

사례 2: D기관 (실패 원인: 교육 부족)

  • 사용법 교육 없이 바로 배포15
  • 사용률 10% 미만
  • 교훈: 충분한 교육과 홍보 필요

사례 3: E기관 (실패 원인: 보안 과잉)

  • 접근 제한이 너무 복잡함
  • 사용자 불편 → 사용 포기
  • 교훈: 보안과 편의성 균형

Q29. 앞으로 어떻게 발전할까요?

A. 더 강력하고 쉬워질 것입니다.

기술 발전 예측:

2024~2025년:

  • 더 작고 빠른 모델 (Llama 4, Qwen 3)
  • 멀티모달 (이미지, 음성 인식)
  • 한국어 성능 개선

2025~2026년:

  • 업무 시스템 자동 연동
  • AI가 직접 전자결재 상신
  • 실시간 음성 인식 회의록

2027년 이후:

  • 완전 자동화 업무 처리
  • AI 업무 비서
  • 홀로그램 인터페이스?

현실적 예측: 3년 내 모든 공공기관 도입


Q30. 지금 바로 시작하려면?

A. 이 순서대로 진행하세요.

1주차: 조사 및 기획

  • 이 문서 정독
  • 타 기관 사례 조사
  • 제안서 작성 (20페이지)

2주차: 승인

  • 팀장 보고
  • 국장 보고
  • 예산 승인

3주차: 장비 구매

  • 견적 3곳 이상
  • 최적 사양 선택
  • 구매 및 납품

4주차: 설치

  • 하드웨어 조립
  • OS 및 소프트웨어 설치
  • 모델 반입 및 설치

5주차: 시범 운영

  • 시범 사용자 5명 선정
  • 2주간 테스트
  • 피드백 수집 및 개선

6주차: 전면 확대

  • 전 직원 교육
  • 계정 생성
  • 공식 운영 시작

소요 기간: 6주 (1.5개월)

성공 확률: 90% 이상


제7장: 결론, 지금 시작하세요!

폐쇄망 AI는 더 이상 선택이 아닌 필수입니다.

이미 수백 개 기관이 도입했고,
모두 만족하고 있으며,
기술은 검증되었습니다.

필요한 것은 단 하나,
시작하겠다는 결심입니다.

지금 바로 제안서를 쓰세요.

당신의 기관에도 '김전산 주무관'이 되어
업무 혁신을 이끌어보세요!


문의: 이 문서에 대한 질문은 각 기관 정보화 담당자에게 문의하세요.

버전: 1.0 (2024.10)

라이선스: CC BY 4.0 (자유롭게 사용 및 배포 가능)


끝.

COMMENTS · 제4편

폐쇄망 AI 도입 FAQ 댓글 0

아직 댓글이 없습니다. 읽다가 궁금한 점이나 보탤 내용을 남겨 주세요.