제4편
실무자가 가장 많이 묻는 질문과 답변
A. 네, 100% 가능합니다.
폐쇄망1 AI는 다음과 같이 작동합니다:
[외부에서 준비]
1. 모델 다운로드 (Llama, Qwen 등)
2. USB에 저장
3. 보안 검사 후 반입
[폐쇄망 내부]
1. 서버에 모델 설치
2. GPU로 모델 실행
3. 내부망에서만 접근
4. 외부 통신 0%
실제 사례: 국방부, 국정원, 대기업 연구소 등 다수 운영 중
A. 이 연구소는 M5 Ultra 탑재 Mac Studio 3대로 정했다.
장비: M5 Ultra 탑재 Mac Studio × 3
칩: M5 Ultra. ARM 칩 안에 GPU가 들어 있다
메모리: 통합 메모리 96GB (CPU와 GPU 공용)
실행: MLX
합계: 2,847만 원부터 (대당 949만 원부터)
그래픽 카드를 꽂는 안은 내려놓았다. RTX 50902은 그래픽 메모리 32GB 안에 모델이 갇히고, NVIDIA3 서버 군과 H1004은 수억 원과 서버실이 필요하다. M2 울트라 견적은 폐기한다.
A. 용도와 언어에 따라 선택하세요.
| 모델 | 크기 | 한국어 | 추천 용도 |
|---|---|---|---|
| Llama 3.1 8B5 | 8B | ★★★☆☆ | 영어 문서, 빠른 응답 |
| Qwen6 2.5 7B | 7B | ★★★★★ | 한국어 문서, 일반 업무 |
| Qwen 2.5 32B | 32B | ★★★★★ | 복잡한 문서, 전문 분야 |
| Llama 3.1 70B | 70B | ★★★★☆ | 고급 분석, 정책 보고서 |
한국어 업무: Qwen 2.5 시리즈 강력 추천
실전 팁: 여러 모델을 함께 설치하고 용도별로 선택 사용
A. 용도에 따라 다릅니다.
| 작업 | ChatGPT | 폐쇄망 AI | 비고 |
|---|---|---|---|
| 일반 문서 작성 | ★★★★★ | ★★★★☆ | 거의 동등 |
| 전문 분야 | ★★★★★ | ★★★☆☆ | GPT가 우세 |
| 한국어 | ★★★★☆ | ★★★★★ | Qwen이 더 나음 |
| 코딩 | ★★★★★ | ★★★☆☆ | GPT가 우세 |
| 보안 | ★☆☆☆☆ | ★★★★★ | 폐쇄망 압도적 |
결론: 일반 업무는 충분히 대체 가능, 보안은 폐쇄망이 훨씬 우수
A. 리눅스 기본 지식만 있으면 가능합니다.
난이도별 평가:
소요 시간: 2~3일
대안: 전문 업체에 구축 의뢰 가능 (약 500만원 추가)
A. USB로 정기적으로 반입합니다.
# 3개월마다 외부에서 준비
ollama pull llama3.1:latest # 최신 모델 다운로드
tar -czf update.tar.gz ~/.ollama/models
# 폐쇄망으로 반입 후
tar -xzf update.tar.gz -C /usr/share/ollama/.ollama/
sudo systemctl restart ollama
주기: 3~6개월마다 (급하지 않음)
A. 외부 클라우드7 AI보다 훨씬 안전합니다.
폐쇄망 AI 보안:
ChatGPT8/Claude 보안:
실제 사례:
A. 주의해서 사용하세요.
원칙:
자동 탐지 기능:
# 주민등록번호 패턴 감지
if re.search(r'\d{6}-\d{7}', text):
return "⚠️ 주민등록번호가 감지되었습니다. 입력을 자제해주세요."
가명화 추천:
❌ "홍길동(950101-1234567)의 세금은?"
✅ "30대 남성의 세금은?"
A. 폐쇄망이므로 외부 해킹 불가능합니다.
보안 구조:
[인터넷] ✗ 물리적 차단
↓
[폐쇄망] ← 내부만 접근 가능
↓
[AI 서버] ← VPN + 인증 필요
가능한 위협:
대책:
A. 로그 기반 감사가 가능합니다.
감사 항목:
-- 사용자별 사용 통계
SELECT user_id, COUNT(*) as queries
FROM conversations
GROUP BY user_id;
-- 민감 키워드 검색
SELECT * FROM conversations
WHERE question LIKE '%주민등록번호%'
OR question LIKE '%비밀번호%';
-- 비정상 사용 탐지
SELECT user_id, COUNT(*)
FROM conversations
WHERE created_at > NOW() - INTERVAL 1 HOUR
GROUP BY user_id
HAVING COUNT(*) > 100; -- 1시간에 100회 이상
감사 주기: 월 1회 권장
A. 장비비는 기본 구성 기준 2,847만 원부터다.
장비:
서버실 공조와 GPU9 전력은 이 견적에 없다. 스튜디오는 사무실에 둔다.
A. 첫 달에 투자금 회수 가능합니다.
효과 계산 (100명 기준):
직원 100명 × 하루 1시간 절약 × 240일 = 24,000시간/년
24,000시간 × 20,000원/시간 = 4억 8천만원/년
투자: 2,847만원
효과: 4억 8천만원
ROI: 약 1,686%
회수 기간: 약 0.7개월
실제 사례 (○○시):
A. 50명 규모에서는 비용 차이가 크지 않으며, 폐쇄망과 보안 요구가 핵심 선택 기준입니다.
| 구분 | ChatGPT Plus | Claude Pro | 폐쇄망 AI |
|---|---|---|---|
| 초기 비용 | 0원 | 0원 | 2,847만원부터 |
| 월 비용 (50명) | 100만원 | 100만원 | 25만원 |
| 연 비용 | 1,200만원 | 1,200만원 | 300만원 |
| 3년 총비용 | 3,600만원 | 3,600만원 | 3,747만원부터 |
| 보안 | ★☆☆☆☆ | ★☆☆☆☆ | ★★★★★ |
결론: 50명 규모에서는 비용이 비슷하므로, 폐쇄망·보안 요구가 핵심 선택 기준
A. 숫자로 보여주세요.
설득 포인트:
ROI 강조
보안 리스크
타 기관 사례
시범 운영 제안
성공률: 약 80%
A. 거의 손댈 것이 없습니다.
일상 관리 (거의 없음):
정기 관리:
총 소요 시간: 월 5시간
담당자: 정보화팀 1명으로 충분
A. 대부분 재시작으로 해결됩니다.
흔한 문제와 해결:
| 문제 | 원인 | 해결 |
|---|---|---|
| 응답 없음 | 메모리 부족 | 서비스 재시작 |
| 느린 속도 | GPU 과부하 | 동시 사용자 제한 |
| 접속 불가 | 네트워크 | 방화벽10 확인 |
| 오류 메시지 | 모델 손상 | 모델 재설치 |
해결 시간: 대부분 10분 이내
고장률: 연 1~2회 (매우 안정적)
A. 단계별로 업그레이드하세요.
업그레이드 순서:
1단계: 모델 최적화 (무료)
# 양자화 모델 사용 (속도 2배)
ollama pull llama3.1:8b-q4_0
2단계: 동시 사용자 제한 (무료)
3단계: 스튜디오를 한 대 더
대부분 1~2단계로 해결
A. 1시간이면 충분합니다.
교육 내용:
[30분] 기본 사용법
- 로그인 방법
- 질문하는 법
- 답변 활용법
[20분] 주의사항
- 개인정보 입력 금지
- 답변 검토 필수
- 업무 외 사용 금지
[10분] 실습
- 실제 업무 문서 작성해보기
교육 자료:
추가 교육: 거의 불필요 (UI가 쉬움)
A. 홍보와 우수 사례 공유가 중요합니다.
사용 촉진 방법:
성공 사례 공유
경진대회
정기 소식지
과장급 먼저
일반적 패턴:
A. 네, 그게 목적입니다.
이 연구소의 구성:
부서별 구분:
사용자 그룹:
- 민원과 (25명)
- 세무과 (22명)
- 기획과 (15명)
...
각 그룹별 사용 통계 별도 집계
우선순위 설정 (선택):
A. 전혀 문제없습니다.
관련 법령:
오픈소스13 라이선스:
결론: 모두 합법
A. 최종 책임은 사용자(공무원)에게 있습니다.
명확한 규정:
"AI는 보조 도구일 뿐, 최종 결정은 담당 공무원이 한다"
실무 원칙:
비유:
사고 사례: 지금까지 0건
A. AI 생성물은 저작권이 없습니다.
법원 판례 (미국):
실무 적용:
안전한 사용:
✅ "공문 작성해줘" → AI 생성 → 자유 사용
✅ "보도자료 작성해줘" → AI 생성 → 자유 사용
⚠️ "이 소설 요약해줘" → 원저작자 권리 침해 가능
A. "AI가 일자리를 빼앗지 않는다"는 점을 강조하세요.
오해:
진실:
실제 효과 (○○시):
설득 전략:
A. 지적 사례가 없습니다.
예상 지적 사항:
예산 낭비?
보안 위험?
법적 근거?
실제 감사 사례:
대비책:
A. Qwen 모델은 ChatGPT 수준입니다.
실제 테스트:
Q: "재산세 납부 안내문을 70대 어르신이 이해하기 쉽게 작성해줘"
Qwen 2.5 32B:
[안내문]
안녕하세요, ○○시청입니다.
올해 재산세 납부 기한이 다가왔습니다.
집을 소유하신 분은 꼭 내셔야 합니다.
💰 얼마를 내나요?
→ 고지서에 적힌 금액을 내시면 됩니다.
📅 언제까지 내나요?
→ 9월 30일까지입니다.
💳 어떻게 내나요?
→ 은행, 우체국, 편의점에서 가능합니다.
...
평가: ★★★★★ (매우 이해하기 쉬움)
A. 공개된 사례들입니다.
공공기관:
국방부 (2023~)
A광역시 (2024~)
B공사 (2023~)
민간 기업:
A. 몇 가지 있습니다.
사례 1: C기관 (실패 원인: 부족한 GPU)
사례 2: D기관 (실패 원인: 교육 부족)
사례 3: E기관 (실패 원인: 보안 과잉)
A. 더 강력하고 쉬워질 것입니다.
기술 발전 예측:
2024~2025년:
2025~2026년:
2027년 이후:
현실적 예측: 3년 내 모든 공공기관 도입
A. 이 순서대로 진행하세요.
1주차: 조사 및 기획
2주차: 승인
3주차: 장비 구매
4주차: 설치
5주차: 시범 운영
6주차: 전면 확대
소요 기간: 6주 (1.5개월)
성공 확률: 90% 이상
폐쇄망 AI는 더 이상 선택이 아닌 필수입니다.
이미 수백 개 기관이 도입했고,
모두 만족하고 있으며,
기술은 검증되었습니다.
필요한 것은 단 하나,
시작하겠다는 결심입니다.
지금 바로 제안서를 쓰세요.
당신의 기관에도 '김전산 주무관'이 되어
업무 혁신을 이끌어보세요!
문의: 이 문서에 대한 질문은 각 기관 정보화 담당자에게 문의하세요.
버전: 1.0 (2024.10)
라이선스: CC BY 4.0 (자유롭게 사용 및 배포 가능)
끝.
COMMENTS · 제4편
폐쇄망 AI 도입 FAQ 댓글 0
아직 댓글이 없습니다. 읽다가 궁금한 점이나 보탤 내용을 남겨 주세요.