교육담당자가 생성형 AI 쓸 때 반드시 지켜야 할 보안 원칙

다면진단 원본 파일을 실명 그대로 AI에 입력하고 계신가요? 4단계 데이터 분류체계와 재식별 방지, 비식별화 3가지 기법으로 안전하게 생성형 AI를 활용하는 방법을 가상 사례와 함께 정리했습니다.

지난 글에서 살펴본 것처럼 생성형 AI는 요구조사 문항 초안 작성부터 만족도 주관식 의견 분류까지 교육담당자의 업무 곳곳에서 유용하게 쓰인다. 그런데 이 편리함에 익숙해지면 습관적으로 위험한 행동을 하게 되는 순간이 온다. 관리자 다면진단 서술형 의견을 정리해달라며 참가자 실명과 사번이 그대로 담긴 원본 파일을 공개 AI 챗봇에 통째로 붙여넣거나, 신입사원용 직무 퀴즈를 만들어달라며 아직 출시되지 않은 제품의 내부 기술 사양서를 함께 입력하는 식이다. 담당자 입장에서는 그저 업무를 빠르게 끝내고 싶었을 뿐이지만, 이 한 번의 입력으로 개인정보와 회사 기밀정보가 외부 서비스로 넘어갈 수 있다. 이 글에서는 HRD 데이터를 다룰 때 반드시 지켜야 할 정보보안 원칙과, 편리함과 안전성을 동시에 확보하는 실무 절차를 정리한다.

1. HRD 데이터가 유독 위험한 이유

다른 부서의 업무 데이터와 비교했을 때, HRD 담당자가 다루는 데이터는 성격이 독특하다. 교육 신청 명단에는 사번과 소속이 담겨 있고, 다면진단 결과에는 특정 개인에 대한 동료들의 주관적 평가가 담겨 있으며, 리더십 코칭 기록에는 관리자 개개인의 약점이 서술되어 있다. 여기에 더해 건강검진 연계 교육이나 심리상담 프로그램을 운영하는 조직이라면 구성원의 건강·상담 관련 정보까지 함께 다루게 된다. 즉 HRD 데이터는 개인정보와 평가정보, 때로는 건강정보까지 결합된 형태로 존재하는 경우가 많아, 다른 어떤 부서의 데이터보다 유출 시 개인에게 미치는 영향이 크다. 여기에 8번 글에서 다룬 조직 전략과 직결된 신규 사업계획, 11번 글에서 언급한 사내 고유의 표준작업절차(SOP)나 기술 매뉴얼처럼 회사의 기밀정보까지 함께 다루는 경우도 흔하다. 이 여러 성격이 겹쳐 있다는 점을 인식하는 것이 보안 원칙의 출발점이다.

2. 데이터가 유출되는 두 가지 경로

정보보안 원칙을 실천하려면 먼저 위험이 실제로 어떻게 발생하는지 이해할 필요가 있다. 생성형 AI 사용 중 정보가 유출되는 경로는 크게 두 가지다.

첫째, 모델 재학습(Model Retraining)을 통한 노출이다. 다수의 공개형(무료 소비자용) AI 서비스는 이용약관에 따라 사용자가 입력한 대화 내용을 서비스 개선이나 모델 학습에 활용할 수 있도록 되어 있는 경우가 있다. 이 경우 입력한 정보가 학습 데이터의 일부로 흡수되어, 이론적으로는 전혀 다른 사용자의 질문에 대한 답변에 흔적이 섞여 나올 가능성을 배제할 수 없다.

둘째, 계정 탈취 및 대화기록 노출이다. 개인 계정으로 AI 서비스를 이용하다가 계정이 해킹당하거나 기기를 분실하면, 과거 프롬프트 창에 입력했던 사내 민감 데이터와 보고서 초안이 그대로 노출될 수 있다.

이 두 경로를 이해하면 왜 "입력하는 순간부터 조심해야 한다"는 원칙이 나오는지가 명확해진다. 결과물이 아무리 훌륭해도, 입력 단계에서 이미 위험이 발생했을 수 있기 때문이다.

3. 정보를 다루기 전에: 4단계 분류체계로 먼저 나누기

무엇을 입력해도 되고 무엇을 입력하면 안 되는지 매번 고민하기보다, 정보를 미리 4단계로 분류해두면 판단이 훨씬 빨라진다.

단계	정의	HRD 데이터 예시	AI 입력 원칙
① 공개 정보	이미 외부에 공개되어 있거나 공개해도 무방한 정보	공개된 성인학습 이론, ADDIE 모형 같은 범용 개념, 공개된 교육 프로그램 소개	자유롭게 입력 가능
② 내부 일반정보	사내용이지만 특정 개인·기밀과 무관한 정보	익명화된 만족도 평균 점수, 표준 커리큘럼 초안, 일반 공지사항	원칙적으로 입력 가능(회사 승인 도구 사용 권장)
③ 개인정보	특정 개인을 식별할 수 있는 정보	성명·사번·이메일, 개인별 평가 원자료, 건강·상담 관련 기록	반드시 가명처리·집계화 등 비식별화 후 입력
④ 기밀정보	외부 유출 시 회사에 실질적 피해를 줄 수 있는 정보	미발표 조직개편안, 신제품 기술 사양서, 사내 SOP 원문, 임금 데이터	원칙적으로 입력 금지

이 표를 책상에 붙여두는 것만으로도 실수를 상당히 줄일 수 있다. 헷갈리는 경우는 대부분 ②와 ③의 경계, 즉 "이 정도면 괜찮지 않을까"라고 느껴지는 지점에서 발생하므로, 애매하면 ③(개인정보)으로 분류하고 아래에서 설명할 비식별화 절차를 거치는 것을 원칙으로 삼는 것이 안전하다.

4. 입력하면 안 되는 정보 체크리스트

4단계 분류를 실무 언어로 다시 풀어보면 아래와 같다.

• 개인 식별 정보: 성명, 사번, 생년월일, 연락처, 이메일 주소
• 개인별 평가·서술 정보: 다면진단 원자료, 특정인의 코칭 상담 기록, 인사평가 등급이 포함된 데이터
• 건강·상담 정보: 심리상담 내용, 스트레스 진단 결과, 건강 관련 서술
• 미공개 경영·기술 정보: 발표 전 조직개편안, 신규 사업계획, 미공개 기술 사양서, 사내 SOP 원문
• 내부 시스템 접근 정보: 사내 시스템 계정 정보, 접속 화면을 그대로 캡처한 스크린샷

이 목록에 해당하는 정보는 아래 6절에서 설명할 가공 절차를 거치지 않는 한 입력하지 않는 것이 원칙이다.

5. "이름만 지우면 끝"이 아니다: 재식별 가능성

많은 담당자가 이름과 사번만 삭제하면 개인정보가 완전히 제거되었다고 생각하지만, 실제로는 그렇지 않은 경우가 많다. 예를 들어 다음과 같은 정보가 있다고 가정해보자.

2023년 입사한 부산 현장 소속 공사관리 책임자, 최근 다면진단에서 갈등관리 점수가 낮음

이름과 사번이 없더라도 해당 현장의 인원 규모가 작다면 누구인지 쉽게 추정할 수 있다. 이처럼 이름을 지워도 부서·입사년도·직무 같은 정보의 조합만으로 특정 개인이 추정되는 것을 재식별 가능성(Re-identification Risk)이라고 한다. 따라서 정보를 가공할 때는 이름만 삭제하는 데 그치지 않고, 개인을 추정할 수 있는 조합 정보(부서+입사년도+직무처럼 서로 결합해 좁혀지는 정보)도 함께 줄여야 한다.

원본: "2023년 입사한 부산 현장 소속 공사관리 책임자 박○○ 대리는 다면진단에서 갈등관리 점수가 낮았고, 동료 피드백에서 지시가 불명확하다는 의견을 받았다."

가공본: "건설 현장관리 직군의 신임 책임자를 대상으로 한 다면진단 결과다. 일부 참가자는 갈등관리와 지시 명확성에서 어려움을 보였다. 개선 교육 주제를 제안해줘."

가공 후에는 분석에 필요한 핵심 맥락은 남아 있지만, 특정 개인을 추정할 수 있는 정보는 대부분 제거된다.

6. 안전하게 가공해서 활용하는 3가지 기법

정보를 아예 다루지 못한다는 뜻이 아니라, 아래 기법으로 가공한 뒤에는 대부분 안전하게 활용할 수 있다는 뜻이다.

① 가명처리(Pseudonymization): 이름과 사번을 실제 정보와 분리된 임의의 식별자로 치환한다. "박○○ 대리"를 "책임자 A"로 바꾸는 방식이다. 17번 글에서 다룬 역할연기 시나리오 개발에 이미 이 원칙이 적용되어 있었다.

② 집계화(Aggregation): 개인별 원자료 대신 집계된 통계만 입력한다. "김○○ 4.2점, 이○○ 3.1점…"이 아니라 "응답자 30명의 항목별 평균과 표준편차"만 전달하는 방식이다. 4번·5번 글에서 다룬 만족도 데이터 분석 대부분은 이미 집계 데이터만으로도 충분히 분석이 가능하다.

③ 데이터 최소화(Data Minimization): 필요한 최소한의 정보만 입력한다. 만족도 주관식 의견을 분류할 때는 응답 내용만 발췌해서 입력하면 되고, 응답자의 부서·직급·입사일 같은 부가 정보까지 함께 붙여넣을 필요는 없다.

7. 나쁜 프롬프트 vs 안전한 프롬프트 비교

사례. 다면진단 결과를 바탕으로 한 코칭 피드백 문안 작성

위험한 입력: "책임자 박○○의 다면진단 결과를 바탕으로 부족한 리더십 역량과 개선 방법을 정리해줘. 부산 현장, 2023년 입사, 갈등관리 점수 2.1점."

이 요청은 부서·입사년도·직급·점수라는 조합 정보가 함께 담겨 있어, 5절에서 다룬 재식별 위험이 그대로 남아 있다.

안전한 입력: "너는 10년 차 리더십 코치야. 건설 현장관리 직군의 한 신임 책임자가 갈등관리 영역에서 다면진단 점수가 낮게 나왔어. 이 사람의 방어기제를 낮추고 개선 행동을 이끌어낼 수 있는 3단계 면담 스크립트를 작성해줘."

특정 개인을 식별할 수 있는 모든 단서가 제거되었지만, AI가 도출하는 면담 스크립트의 품질과 유용성은 원본과 다름없이 확보된다.

8. AI 도구 자체의 보안 설정도 함께 확인한다

정보를 가공하는 것만큼 중요한 것이 어떤 도구에 입력하는가이다. 다만 어떤 서비스가 데이터를 어떻게 처리하는지에 대한 정책은 서비스마다, 그리고 시점마다 계속 달라지므로, 이 글에서 특정 서비스명을 언급하며 "이건 안전하다"고 단정하지는 않겠다. 대신 실무에서 반드시 확인해야 할 항목은 다음과 같다.

• 입력한 데이터가 모델 학습에 사용되는지, 그리고 이를 거부(Opt-out)할 수 있는 설정이 있는지
• 대화 기록이 얼마나 오래 보관되는지
• 회사에서 승인한 전용 계정이나 기업용 환경이 제공되는지
• 사용자별 권한 구분과 관리자 계정에서의 사용기록 확인이 가능한지

여기에 더해 실무에서 유용한 원칙이 하나 더 있다. 로컬(Local) 환경과의 업무 분리다. 15번 글에서 다룬 반복업무 자동화와 마찬가지로, 민감한 개인별 평가 집계나 예산 세부 내역은 네트워크 연결이 없는 로컬 엑셀 환경에서 처리하고, AI는 문장 교정이나 논리 구조를 다듬는 텍스트 윤문 작업에만 한정해 활용하는 것이 안전하다. 회사에 정보보안팀이 있다면 개별적으로 판단하기보다 "우리 회사에서 승인한 AI 서비스는 무엇인가", "어떤 유형의 데이터까지 입력할 수 있는가"를 먼저 확인하는 것이 좋다.

9. 결과물의 사실 오류(할루시네이션)도 함께 검증한다

정보보안과는 결이 다르지만 반드시 함께 짚어야 할 위험이 있다. 생성형 AI는 그럴듯하지만 실제와 다른 내용을 자연스럽게 만들어내는 경향이 있는데, 이를 흔히 '환각(Hallucination)'이라고 부른다. 이 문제는 8번 글에서 다룬 법정교육 콘텐츠를 AI로 초안 작성할 때 특히 위험하다. 조항 번호나 세부 기준이 실제와 다르게 생성될 수 있으므로, 법정교육 자료는 반드시 사내 법무팀 또는 원문 공식자료와 대조해야 한다. "국내 기업의 평균 교육시간은 얼마다"처럼 AI가 제시하는 구체적인 통계 역시 출처가 불분명하거나 오래된 정보일 수 있어, 이 시리즈에서 지금까지 견지해온 "확인되지 않은 통계는 사용하지 않는다"는 원칙이 AI 활용 국면에서 더욱 중요해진다.

10. 조직 차원의 최소 가이드라인과 활용 기록

개인의 주의만으로 위험을 완전히 막기는 어렵다. 부서 차원에서 아래와 같은 최소한의 가이드라인을 문서화해두는 것을 권장한다.

[HRD 부서 AI 활용 가이드라인 예시 - 최소 항목]

승인된 AI 도구 목록과 각 도구의 데이터 처리 방침
입력 금지 정보 목록(4단계 분류표 첨부)
가명처리·집계화 표준 절차
AI 산출물 사실 확인 담당자 및 절차
위반 발생 시 보고 및 대응 절차

이 가이드라인은 정보보안팀이나 법무팀과 반드시 협의해 확정해야 하며, 이 글에서 제시한 내용은 실무 참고용 뼈대일 뿐 회사의 최종 정책을 대체하지 않는다. 여기에 더해 개별 작업 단위로 아래처럼 간단한 활용 기록을 남겨두면, 나중에 문제가 생겼을 때 검토 과정을 추적할 수 있다.

항목	기록 예시
활용 목적	신임 현장관리자 다면진단 의견 분류
입력자료	가명처리한 서술형 의견 발췌본
사용 도구	회사 승인 계정, 학습 활용 거부(Opt-out) 설정 확인
검토 내용	개인정보 포함 여부, 사실관계
최종 승인	교육팀 책임자

11. 가상 사례: 비식별화 도입 전후 비교

가상의 건설업체 (주)대양건설의 교육팀은 매년 현장관리자 다면진단 서술형 의견 240건을 정리하는 데 개인 계정의 공개 AI 챗봇을 사용해왔다. 그런데 이 과정에서 실명과 사번이 포함된 원본 파일을 그대로 입력해온 관행이 정보보안 점검에서 발견되어 절차를 개편하게 되었다.

항목	개편 전	개편 후
입력자료	실명·사번 포함 원본 엑셀 전체	가명처리(책임자 A, B…) 후 서술형 의견만 발췌
사용 도구	개인 계정의 무료 공개 AI 챗봇	회사 승인 계정, 학습 활용 거부(Opt-out) 설정
건당 처리시간	2.5분	3.2분(사전 가명처리 0.7분 포함)
연간(240건) 총 처리시간	10.0시간	12.8시간
실명·사번 노출 문건 수	240건	0건

개편 후에는 사전 가명처리에 건당 0.7분이 추가되어 연간 총 처리시간이 10.0시간에서 12.8시간으로 2.8시간 늘었지만, 실명·사번이 외부 서비스에 노출되는 문건 수는 240건에서 0건으로 완전히 차단되었다. 이는 14번 글에서 구분한 '비용 절감'과 '비용 효율화'의 논리를 정보보안에도 그대로 적용할 수 있음을 보여준다. 약간의 시간을 더 투입해 유출 위험을 원천적으로 제거한 것은 단순한 비용 증가가 아니라, 리스크를 관리하는 데 드는 합리적인 투자로 봐야 한다.

12. 보안 때문에 AI를 포기할 필요는 없다

정보보안을 강조하다 보면 "그렇다면 아무 자료도 입력할 수 없는 것 아닌가"라는 생각이 들 수 있다. 하지만 보안의 핵심은 AI를 사용하지 않는 것이 아니라, 어떤 정보를 어떤 방식으로 입력할 것인지 통제하는 것이다.

비교적 안전하게 활용 가능한 업무	별도 승인·비식별화가 필요한 업무
일반적인 커리큘럼 목차 아이디어 도출	개인별 평가 결과 분석
공개자료 요약 및 재구성	리더십·다면진단 결과 해석
비식별화된 설문 의견 분류	상담·고충 내용 요약
교육 안내문·퀴즈 문항 초안 작성	미공개 인사·조직개편 자료 작성
역할연기 시나리오 초안 작성(비식별 상태)	개인별 코칭·승진 관련 문서 작성

업무를 이렇게 두 영역으로 구분해두면 AI의 효율성과 보안을 동시에 관리할 수 있다.

13. 실무 적용 체크리스트

• 입력하려는 정보가 4단계 분류(공개·내부·개인정보·기밀) 중 어디에 해당하는지 먼저 판단했는가
• 이름뿐 아니라 부서·입사년도·직무 같은 조합 정보로 재식별될 위험은 없는가
• 개인을 식별할 수 있는 정보는 가명처리 또는 집계화를 거쳤는가
• 부가정보 없이 필요한 최소한의 정보만 입력했는가(데이터 최소화)
• 사용하는 AI 도구가 회사에서 승인된 도구이며, 개인 계정이 아닌지 확인했는가
• 민감한 집계나 판단은 로컬 환경에서 처리하고 AI는 윤문 등 보조 역할에만 활용했는가
• 법정교육 콘텐츠나 통계 인용은 AI 산출물을 원문과 반드시 대조했는가
• 부서 차원의 AI 활용 가이드라인과 활용 기록이 마련되어 있는가

14. 정리

생성형 AI가 아무리 편리해도, HRD 데이터에는 개인정보와 평가정보, 때로는 건강정보와 회사 기밀정보까지 함께 얽혀 있다는 특수성을 먼저 인식해야 한다. 정보를 4단계로 분류하고, 이름을 지우는 것만으로는 충분하지 않다는 재식별 위험을 이해한 뒤, 가명처리·집계화·데이터 최소화로 가공하고, 승인된 도구의 데이터 처리 정책과 로컬 환경 분리 원칙까지 함께 지키면 편리함과 안전성을 동시에 확보할 수 있다. 다음 글에서는 지금까지 다룬 활용법과 보안 원칙을 하나의 표준 프로세스로 통합해, AI가 초안을 쓰고 사람이 검수하는 교육자료 제작 과정을 구체적으로 설계한다.