생성형 AI 활용 가이드라인
동서대학교 교수, 학생 등의 구성원이 생성형 인공지능(Generative AI)의 확산에 지혜롭게 대응하고, 생성형 AI라는 도구를 학습에 유용하게 사용할 수 있도록 자율적으로 준수할 수 있는 가이드라인을 제시합니다.
생성형 AI란?
생성형 AI란 인공신경망을 이용하여 새로운 데이터를 생성해내는 기술로 프롬프트(명령어)를 통해 사용자의 의도를 스스로 이해하고 주어진 데이터로 학습하며, 학습한 것들을 활용하여 텍스트, 이미지, 오디오, 비디오 등 새로운 콘텐츠를 생성해내는 인공지능입니다.
[공통] 생성형 AI의 윤리적 활용 방안
1. AI 결과물은 반드시 재해석하거나 생각을 덧붙여 생산적으로 활용합니다.
AI 결과물(과제 등)에 대해 비판적으로 내용을 판단하고, 진실 여부를 반드시 확인합니다.
AI의 답변을 재해석하고 변형하여 새로운 결과물을 창작할 수 있도록 노력이 필요합니다.
2. AI 결과물을 활용할 때 편향과 차별이 있는지 점검합니다.
생성형 AI를 활용한 결과물에 성별, 연령, 장애, 지역, 인종, 종교, 국가 등에 대한 편향과 차별하는 내용이 있는지 확인해야 합니다. 편향과 차별이 있는 내용은 제거하고, 사회 전반에 부정적인 영향을 미치지 않도록 노력해야 합니다.
생성형 AI의 저변을 확대하면서 인간의 존엄성을 존중하고 사회구성원 모두가 인간다운 삶을 살 수 있는 공공의 선을 추구하는 방향으로 AI 결과물을 활용해야 합니다.
3. AI 결과물이 타인의 저작권을 침해했거나 표절은 없는지 점검해야 합니다.
생성형 AI를 이용하면서 더 많은 정보에 더 쉽게 접근할 수 있는 가능성이 있습니다.
AI 이용자는 자신이 만든 AI 결과물이 타인에게 손해를 끼치거나, 권리를 침해하거나 안전에 영향을 주는 등 사회적으로 문제가 될 경우 법적인 처벌을 받을 수 있으며, 책임은 이용자 본인에게 있음을 꼭 인지해야 합니다.
4. AI에 민감한 정보(비공개 정보, 개인정보 등)를 입력하지 않습니다.
생성형 AI는 프롬프트에 질문을 입력하면 언어, 그림 등의 형태로 결과물을 생성합니다. 이용자가 입력한 정보는 휘발되지 않고 서버에 저장됩니다. 저장된 정보들을 바탕으로 생성형 AI는 학습과 재학습을 하게 되고, 다른 결과값이 도출됩니다.
민감한 개인정보, 소속단체의 기밀 정보 등을 프롬프트에 입력하지 않도록 각별히 주의가 필요합니다.
교수자를 위한 생성형 AI 활용 방안
1. 교수는 수업의 특성을 고려하여 AI의 사용 여부와 활용 원칙을 결정합니다.
생성형 AI의 올바른 활용에 앞서 작동원리와 한계점을 파악하고 담당 수업의 특성을 고려하여 사용 여부를 결정해야 합니다.
우리 대학의 교육목표인 The Only One 가치를 구현하는 글로벌 창의 인재 양성을 위해 생성형 AI의 적극적 활용방안을 모색할 수 있습니다.
2. 교수는 수업계획서에 생성형 AI 활용에 대해 구체적으로 명시합니다.
수업에서 생성형 AI를 활용할 경우 수업 계획서에 반드시 명시하고 관련 내용을 학생들에게 명확히 안내해야 합니다.
학생과 상호합의를 통해 생성형 AI 활용에 대한 제한사항, 적용범위, 활용방법, 주의사항을 포함하는 지침을 만들어 공유할 수 있습니다.
3. 생성형 AI 활용의 윤리적 기준을 명확히 안내하고 지속적으로 강조합니다.
생성형 AI를 활용하기 전 반드시 윤리성, 책임성, 진실성, 편향성 등의 윤리적 기준에 대해 학생들에게 사전 교육을 해야 합니다.
학생들이 생성형 AI 활용 시 고려해야 할 윤리적 기준과 최소한의 규칙을 안내하고, 수업 과정에서 지속적으로 설명해야 합니다.
4. 생성형 AI 활용 시 주의사항, 표절, 부정행위의 범위에 대해 명확히 설명합니다.
생성형 AI 활용의 장단점과 주의사항에 대해 설명하고 충분히 알 수 있도록 안내합니다.
생성형 AI 결과물을 활용할 때 명확하게 사용 출처를 표시할 것을 설명합니다.
생성형 AI 결과물을 가공 없이 그대로 사용할 경우 표절이나 부정행위가 될 수 있음을 명확히 설명합니다.
학습자를 위한 생성형 AI 활용 방안
1. 생성형 AI 관련한 수업에서 담당교수의 설명을 충분히 확인합니다.
생성형 AI 활용 여부 등과 관련하여 수업계획서에 명시된 지침, 그외 교수가 별도로 제시한 지침을 잘 준수합니다.
성적 평가를 위한 과제로 생성형 AI의 결과물을 그대로 제출하여 발생하는 모든 문제에 대한 책임은 학생 본인에게 있음을 잘 알아야 합니다.
2. 생성형 AI를 윤리적으로 활용할 수 있도록 주의가 필요합니다.
생성형 AI를 활용하기 전에 AI 활용 가이드라인이나 담당교수가 제공하는 윤리적 기준을 반드시 잘 이해합니다.
생성형 AI는 편향되거나 부정확한 정보를 생성할 가능성이 있으므로, AI의 결과물을 활용할 때는 편향성이나 정확성을 잘 확인해야 합니다.
3. 생성형 AI 결과물에 대해서 사실여부를 반드시 확인합니다.
생성형 AI를 활용한 결과물을 비판 없이 그대로 활용하면 절대 안됩니다.
생성형 AI는 거짓 정보를 생성할 수 있으며, 접근가능한 타인의 저작물도 인용할 수 있습니다. AI 결과물에 대해 꼼꼼하게 검증하고 진실 여부를 판단할 수 있는 노력이 필요합니다.
4. 생성형 AI 결과물을 이용할 경우 출처를 분명하게 표기합니다.
생성형 AI를 활용하여 결과물을 도출한 경우, 활용방안 및 출처를 반드시 밝힙니다.
생성형 AI의 결과물을 변조하지 않고 그대로 활용할 경우, 표절 및 부정행위가 될 수 있습니다. 이에 대한 책임은 학생 개인에게 있음을 꼭 기억하기 바랍니다.
예 시 : 중앙대 생성형 AI 활용 가이드라인 참조
생성형 AI를 현명하게 활용하기 위한 체크리스트
저작권
생성형 AI의 결과물을 활용할 때 생성형 AI를 활용해서 얻은 결과물이라고 표기했나요?
|
네□
|
아니오□
|
권리침해
생성형 AI를 활용할 때 타인의 권리가 침해될 수 있는 텍스트, 오디오, 이미지 등을 사용하지 않았나요?
|
네□
|
아니오□
|
명예훼손
생성형 AI에 질문이나 정보를 입력할 때 특정인의 명예를 훼손하거나, 차별하는 내용이 포함되어 있지는 않나요?
|
네□
|
아니오□
|
혐오표현
생성형 AI가 제시한 정보에 개인, 기관 등 특정 대상을 비난하거나, 가치관이나 주장을 일방적으로 혐오하는 내용이 포함되어 있지 않나요?
|
네□
|
아니오□
|
정보유출
생성형 AI로 정보를 얻거나 콘텐츠를 제작하기 위해 개인정보, 기업비밀 등 민감한 정보를 제공하지는 않았나요?
|
네□
|
아니오□
|
허위조작정보
생성형 AI로 가짜뉴스, 스팸 등을 만들기 위해 사실이 아닌 부정확한 정보나 조작된 내용을 일부러 입력하지는 않았나요?
|
네□
|
아니오□
|
정보편향
생성형 AI가 결과로 제시한 정보에 한쪽으로 치우친 편향적인 내용이 없는지 확인하였나요?
|
네□
|
아니오□
|
환각현상
생성형 AI가 제공한 정보가 모두 정답은 아니라는 생각을 하며 잘못된 정보가 있는지 사실 확인을 위해 교차검증을 했나요?
|
네□
|
아니오□
|
오남용
생성형 AI가 주는 편리함에만 의존하지 않고 먼저 충분히 생각하고 고민한 후에 생성형 AI는 보조적 수단으로 활용하였나요?
|
네□
|
아니오□
|
창의성
생성형 AI가 제시한 결과를 그대로 사용하지 않고, 재해석하거나 자신의 생각과 아이디어를 덧붙여 생산적으로 활용하였나요?
|
네□
|
아니오□
|
<출처: 방송통신위원회·한국지능정보사회진흥원(2023). 생성형 AI 윤리 가이드북, p.69>