An Introduction to Generative Artificial Intelligence for Academics

본 논문은:

• Nate Breznau와 Hung H. V. Nguyen이 2026년 학술 저널 F1000Research에 게재한 리뷰 논문(version 2, 14:655)이다.
• 컴퓨터과학을 전공하지 않은 학생·교원·연구자·학술 지원 인력을 대상으로 생성형 AI의 기본 작동 원리, 윤리적 쟁점, 연구 지원 도구와 프롬프트 작성법을 폭넓게 소개한다.
• 생성형 AI는 연구자를 대신하는 권위 있는 지식원이 아니라 검증과 책임이 필요한 보조 도구이며, 활용 능력의 핵심은 기술 자체보다 인간의 비판적 판단과 감독에 있다는 시사점을 제시한다.

서론

생성형 AI는 논문 검색과 요약, 코드 작성, 데이터 분석, 번역, 강의 자료 제작 등 학술 활동의 거의 모든 단계에 들어오고 있다. 저자들이 인용한 독일 대학생 조사에서는 생성형 AI 사용 경험이 2023년 63%에서 2025년 90% 이상으로 증가하였다. 이제 생성형 AI를 사용할지 말지를 논의하는 것만으로는 충분하지 않으며, 무엇을 할 수 있고 무엇을 믿어서는 안 되는지 이해하는 일이 연구 역량의 일부가 되었다는 것이 이 논문의 출발점이다.

다만 이 글을 일반적인 실증 연구처럼 읽어서는 안 된다. 논문은 새로운 모델을 제안하거나 통제된 실험으로 가설을 검증하지 않는다. 저자들 스스로도 이 글을 강연이나 강좌에 가까운 반형식적(semi-informal) 입문 리뷰라고 설명한다. 학술 문헌과 대중적 자료, 저자들의 도구 사용 경험을 함께 엮어 비전공자에게 큰 그림을 제공하는 것이 목적이다. 따라서 특정 도구의 성능이나 향후 전망은 검증된 보편 법칙이 아니라, 집필 시점의 사례와 저자 판단으로 구분하여 읽을 필요가 있다.

논문 version 1은 2025년 7월에 처음 공개되었고, 동료평가 의견을 반영한 version 2가 2026년 2월에 출판되었다. 개정판에서는 AI 작동 원리를 뒷받침하는 참고문헌, FAIR 원칙과 연결한 윤리 논의, 도구 선정 기준, 프롬프트의 공손성이 출력에 미치는 영향에 관한 근거, Figure 2의 출처 등이 보강되었다. 현재 version 2는 두 명의 심사자로부터 승인을 받은 상태이다.

논문은 다음 질문을 순서대로 다룬다.

1. AI는 무엇을 근거로 답을 생성하는가?
2. 학술 연구에서 어떤 윤리 원칙과 인간의 감독이 필요한가?
3. 문헌 탐색과 데이터 분석에는 어떤 유형의 도구를 사용할 수 있는가?
4. 원하는 결과를 얻기 위해 프롬프트를 어떻게 구성해야 하는가?

이 순서는 단순한 사용법 안내보다 중요하다. 먼저 생성 과정의 한계를 이해하고, 그다음 책임 원칙을 세운 뒤, 마지막에 도구와 프롬프트를 다루기 때문이다. 생성형 AI를 잘 쓰는 방법이 곧 많이 쓰는 방법을 뜻하지 않는다는 점도 이 구성에서 드러난다.

본론

생성형 AI의 ‘지식’은 이해가 아니라 패턴 예측이다

논문은 생성형 AI의 기반을 인공신경망(Artificial Neural Network, ANN)으로 설명한다. 인공신경망은 입력을 여러 층의 노드에 통과시키고, 노드 사이의 연결에 저장된 수많은 가중치를 조합하여 출력을 계산한다. 학습 전에는 매개변수가 무작위에 가까워 유용한 예측을 만들지 못하지만, 학습 데이터의 정답과 모델 출력 사이의 오차를 반복적으로 줄이면서 매개변수가 조정된다.

이때 핵심이 역전파(backpropagation)이다. 모델이 낸 출력과 기대한 출력의 차이를 오차로 계산하고, 이 오차에 각 매개변수가 얼마나 기여했는지를 출력층에서 입력층 방향으로 전달한다. 최적화 알고리즘은 전달된 정보를 바탕으로 오차가 감소하는 방향으로 가중치를 갱신한다. 학습은 이 과정을 매우 많은 데이터와 반복 횟수에 걸쳐 수행하는 일이다.

Figure 1. 인공신경망과 역전파의 개념도. 출처: Breznau & Nguyen (2026), Figure 1, CC BY 4.0.

Figure 1은 이 과정을 네 부분으로 단순화한다.

• 왼쪽의 노란 노드는 모델이 받는 입력 $x_1, x_2, \ldots, x_i$를 나타낸다.
• 가운데의 녹색 노드는 은닉층의 계산 단위를 나타내며, 입력과 노드를 잇는 화살표에는 학습으로 조정되는 매개변수가 포함된다.
• 파란 노드 $\hat{y}$는 모든 중간 계산을 결합해 만든 예측값이다.
• 오른쪽의 붉은 노드 $e$는 예측과 정답의 차이인 출력 오차이며, 점선 화살표는 이 오차를 뒤로 전달해 매개변수를 수정하는 역전파를 표현한다.

그림을 읽을 때 중요한 점은 정보가 두 방향으로 흐른다는 것이다. 순전파에서는 입력으로부터 예측을 만들고, 역전파에서는 예측 오차로부터 매개변수 수정 방향을 계산한다. 다만 실제 Transformer나 대규모 언어 모델의 구조는 이 그림보다 훨씬 복잡하다. Figure 1은 개별 노드와 연결이 실제 모델에서 정확히 어떤 연산을 수행하는지를 보여 주기보다, 예측과 오차 수정의 반복 구조를 전달하기 위한 개념도이다.

저자들은 이 학습 결과를 인간의 의미 이해와 구분한다. 모델이 갖는 ‘지식’은 방대한 학습 데이터에서 반복된 관계를 매개변수에 통계적으로 압축한 것이다. 예를 들어 이미지 모델은 고양이라는 개념을 인간처럼 이해하기보다, 픽셀의 경계·색·형태가 특정한 방식으로 결합될 때 ‘고양이’라는 출력을 낼 확률이 높도록 매개변수가 조정되어 있다. 모델이 설득력 있게 답한다는 사실만으로 그 답이 참임을 보장할 내부 사실 검증 장치가 생기는 것은 아니다.

언어 모델은 토큰의 다음 분포를 계산한다

대규모 언어 모델(Large Language Model, LLM)도 인공신경망이지만, 언어를 처리하기 위해 Transformer 구조를 사용한다. 논문은 모든 LLM이 인공신경망이지만 모든 인공신경망이 LLM인 것은 아니라고 구분한다. 이미지 분류나 유전자 서열 처리처럼 언어 이외의 입력을 다루는 신경망도 존재하기 때문이다.

LLM은 문장을 사람이 인식하는 단어 그대로 읽지 않고 토큰(token) 단위로 나눈다. 토큰은 단어 전체일 수도 있고 단어의 일부, 공백 또는 문장부호일 수도 있다. 각 토큰은 고정 길이의 수치 벡터인 임베딩으로 변환되고, attention 메커니즘은 현재 문맥에서 한 토큰이 다른 토큰과 얼마나 관련되는지 동적으로 가중한다. 그 결과 모델은 앞선 문맥을 반영하여 다음에 올 토큰의 확률분포를 계산하고, 선택된 토큰을 이어 붙여 자연스러운 문장을 만든다.

논문은 Transformer 계열 모델을 세 유형으로 나눈다.

• Encoder-only 모델은 입력 전체의 문맥을 양방향으로 읽어 분류나 빈칸 추론에 강하다. BERT가 대표적이다.
• Decoder-only 모델은 이전 토큰을 바탕으로 다음 토큰을 생성한다. GPT 계열과 대화형 생성 AI의 중심 구조이다.
• Encoder-decoder 모델은 입력을 표현하는 단계와 출력을 생성하는 단계를 결합하며, 번역과 같은 입력-출력 변환 문제에 활용된다.

사전학습된 기반 모델은 광범위한 언어 패턴을 습득하고, 이후 instruction tuning이나 인간 피드백 기반 강화학습을 통해 지시를 따르고 대화하는 방식으로 미세조정된다. 여기에 웹 검색, Python 실행, 이미지 생성처럼 외부 기능을 수행하는 도구(tool)가 결합되면 텍스트 생성만으로 처리할 수 없는 작업까지 맡을 수 있다. 여러 단계를 계획하고 도구 실행 결과를 관찰하여 다음 행동을 선택하는 시스템은 AI agent로 구분된다.

이 구조를 이해하면 환각(hallucination)이 단순한 우발적 버그가 아님을 알 수 있다. 모델의 기본 목표는 사실을 증명하는 일이 아니라 문맥상 그럴듯한 다음 토큰을 생성하는 일이다. 학습 자료가 부족하거나 질문이 모호할 때도 대답을 회피하기보다 통계적으로 가능한 답을 만들 수 있다. 검색이나 코드 실행 도구가 오류를 줄일 수는 있지만, 낮은 품질의 검색 결과나 잘못된 도구 사용은 오히려 그럴듯한 오류를 강화할 수도 있다.

할 수 있는 일과 믿어서는 안 되는 일을 구분해야 한다

생성형 AI의 출력은 확률적이므로, 유창함과 정확성을 분리해 평가해야 한다. 논문은 존재하지 않는 판례를 인용한 법률 문서 사례처럼, 전문적인 형식과 어투가 잘못된 내용을 감출 수 있다고 지적한다. 학습 데이터에 포함된 사회적 편향도 출력에 재현되거나 증폭될 수 있으며, 편향을 줄이기 위한 미세조정이 역사적 사실을 왜곡하는 반대 문제를 만들 가능성도 있다.

또한 모델의 기본 지식은 학습 시점에 묶여 있다. 최신 정보는 웹 검색과 같은 외부 도구를 통해 보완해야 한다. 그러나 검색 기능을 썼다는 사실만으로 검증이 끝나는 것은 아니다. 원출처가 실제로 존재하는지, 검색된 자료가 질문에 적합한지, 인용한 문장이 원문의 취지와 일치하는지를 연구자가 다시 확인해야 한다.

여기서 논문의 중심 원칙이 도출된다. 생성형 AI의 결과는 ‘완전한 허위’와 ‘논리적으로 견고한 진술’ 사이의 어딘가에 위치할 수 있으므로, 사용자는 매번 비판적으로 검토해야 한다. 모델의 답변을 출발점으로 사용할 수는 있지만, 권위 있는 최종 판정으로 받아들여서는 안 된다.

연구 윤리: AI는 책임의 주체가 될 수 없다

저자들은 생성형 AI를 모든 문제를 해결하는 단일 도구로 보는 All-in-One AI 신화를 경계한다. 일반 대화 모델, 학술 검색 도구, 통계 소프트웨어는 목적과 검증 가능성이 서로 다르다. 예를 들어 아이디어 발산에는 범용 생성 AI가 유용할 수 있지만, 체계적 문헌고찰에는 전문 데이터베이스와 검색 도구가 필요하고, 재현 가능한 통계 분석에는 버전과 실행 환경을 통제할 수 있는 통계 소프트웨어가 필요하다.

사람의 감독은 단순한 마지막 교정 단계가 아니다. AI가 생성한 문장이나 분석을 연구에 사용한다면, 연구자는 자신이 직접 수행한 결과와 같은 수준으로 논리와 사실, 인용, 코드를 검증해야 한다. 논문은 AI 출력의 복사·붙여넣기를 강하게 반대하며, 생성된 개요나 초안을 참고하더라도 연구자가 이해한 뒤 자신의 문장으로 다시 작성해야 한다고 주장한다. AI는 저자가 될 수 없고, 오류에 대한 책임을 질 수도 없기 때문에 최종 책임은 이름을 건 사람에게 남는다.

투명성도 중요한 문제이다. 학술지와 기관의 정책이 요구한다면 AI 사용 범위와 방식을 공개해야 한다. 동시에 원 논문을 AI가 요약했더라도 인용해야 할 대상은 AI가 아니라 그 원 논문이다. 생성형 AI의 학습 데이터와 내부 생성 경로가 불투명하므로, 검증 가능한 출처까지 거슬러 올라가는 습관이 필요하다.

논문은 다음과 같은 오용 가능성을 함께 논의한다.

• 존재하지 않는 자료와 인용을 대량으로 생성하는 행위
• 가짜 설문 응답이나 딥페이크를 연구 자료처럼 제시하는 행위
• 원하는 유의미한 결과가 나올 때까지 분석을 반복하는 AI 기반 p-hacking
• 비판적 읽기와 지식 습득 자체를 AI에 넘기는 과도한 인지적 외주화(cognitive offloading)
• 생성된 자료가 다시 다음 세대 모델의 학습 데이터가 되면서 품질이 퇴화하는 model collapse

인지적 외주화 자체가 항상 나쁜 것은 아니다. 반복 작업을 자동화하면 연구자는 문제 설정과 해석에 더 많은 시간을 쓸 수 있다. 문제는 자신이 검토할 능력이 없는 작업까지 위임하는 경우이다. R을 이해하지 못하는 상태에서 AI가 작성한 R 분석 코드를 연구 결과로 사용한다면, 실행 성공 여부와 별개로 분석의 타당성을 판단할 수 없다. 논문이 강조하는 기준은 편의가 아니라 사용자가 결과를 끝까지 설명하고 책임질 수 있는가이다.

민감한 자료를 다룰 때는 개인정보와 기밀성도 고려해야 한다. 웹 기반 서비스에 입력한 데이터는 외부 서버로 전송된다. 저자들은 충분한 연산 자원이 있다면 공개 가중치 모델을 로컬에서 실행하는 방식을 대안으로 제시한다. 로컬 모델은 데이터가 장치를 떠나지 않는다는 장점이 있지만, 일반 사용자가 실행할 수 있는 모델은 대체로 작고 도구 생태계도 직접 구성해야 한다. 따라서 보안, 성능, 운용 난이도 사이의 절충이 필요하다.

연구 도구는 ‘생성기’보다 ‘탐색기’와 ‘연결기’로 나누어 보는 편이 유용하다

논문은 집필 당시 널리 사용되던 범용 서비스와 학술 특화 도구를 소개한다. Table 1의 제품 기능과 요금제는 2025년 12월 1일을 기준으로 한 정보이므로 현재의 고정된 비교표로 받아들이기보다, 도구를 역할별로 구분하는 사례로 읽는 편이 적절하다.

문헌 탐색 도구는 크게 두 유형으로 정리할 수 있다.

첫째, finder는 자연어 질문을 학술 데이터베이스 검색으로 변환하고 관련 논문을 찾아 요약한다. Semantic Scholar, Consensus, Elicit, ORKG Ask 등이 예시로 제시된다. 일부 도구는 먼저 실제 문헌을 검색한 뒤 그 문헌을 근거로 답을 생성하는 RAG 구조를 사용하므로, 근거 없이 참고문헌을 생성할 위험을 줄일 수 있다. 그렇더라도 데이터베이스의 범위, 비영어권 문헌의 누락, 유료 논문의 접근 제한은 남는다.

둘째, connector는 이미 중요하다고 판단한 seed paper에서 출발해 인용 관계나 의미적 유사성이 높은 다른 논문을 찾는다. Connected Papers, Local Citation Network, Inciteful, Research Rabbit 등이 여기에 해당한다. 키워드가 다른 연구 분야 사이의 연결을 발견하거나 한 아이디어의 선행·후속 연구를 추적할 때 유용하다.

Figure 2. Connected Papers의 문헌 연결 그래프 예시. 출처: Breznau & Nguyen (2026), Figure 2, CC BY 4.0.

Figure 2의 가운데 그래프에서 각 원은 하나의 논문이고, 선은 인용 패턴과 주제 유사성에 근거한 연결을 나타낸다. 보라색으로 강조된 origin paper를 기준점으로 삼으면 가까운 군집은 서로 관련된 연구 흐름으로 읽을 수 있고, 군집 사이를 잇는 논문은 서로 다른 주제를 연결하는 후보가 된다. 노드의 색은 출판 연도와 대응하므로 연구 흐름의 시간적 변화도 대략 확인할 수 있다.

이 그림의 장점은 관련 문헌 목록을 평면적으로 나열하지 않고 연구 지형으로 보여 준다는 데 있다. 그러나 연결 강도는 논문의 품질이나 주장에 대한 지지를 의미하지 않는다. 가까운 논문이라도 연구 설계가 부실할 수 있고, 인용 관계가 비판적 인용일 수도 있다. 따라서 그래프는 읽을 문헌을 발견하는 도구이며, 근거를 대신하는 도구는 아니다.

데이터 분석 지원은 재현성과 검증 가능성이 기준이다

논문은 power analysis, 데이터 추출, 코드 생성, 정량 분석, 텍스트 annotation, 학습 데이터 확장에 생성형 AI를 활용할 수 있다고 설명한다. Python과 R처럼 공개 자료가 풍부한 언어에서 코드 생성 성능이 상대적으로 좋다는 것도 저자들의 경험으로 제시한다.

여기서는 주장의 성격을 구분할 필요가 있다. 생성형 AI가 수학 계산에 매우 정확하다거나 특정 분석을 잘 수행한다는 평가는 논문의 체계적인 벤치마크 결과가 아니라 저자들의 실무 경험과 인용 사례에 기반한다. 실제 분석에서는 다음을 별도로 확인해야 한다.

• 사용한 데이터와 전처리 절차가 정확한가?
• 생성된 코드가 연구 질문과 통계 가정을 올바르게 구현하는가?
• 패키지와 실행 환경의 버전이 기록되어 있는가?
• 같은 입력으로 결과를 재현할 수 있는가?
• 텍스트 annotation에 특정 집단을 향한 체계적 편향이 없는가?

특히 대화형 서비스의 내부 모델과 실행 환경은 사용자에게 완전히 공개되지 않을 수 있다. 따라서 AI에게 분석을 ‘시킨 기록’만으로 재현성을 확보했다고 보기 어렵다. 분석 코드를 독립 파일로 저장하고, 라이브러리 버전과 난수 시드, 전처리 과정을 명시하며, 사람이 결과를 검산해야 한다.

프롬프트는 한 번의 주문이 아니라 검증 가능한 작업 명세이다

논문은 prompting을 모델의 코드나 매개변수를 바꾸지 않고, 매번 입력을 통해 수행할 작업을 규정하는 행위로 정의한다. 좋은 프롬프트의 핵심은 특별한 주문을 외우는 것이 아니라 작업 명세를 명확하게 만드는 데 있다.

저자들의 지침은 네 질문으로 정리할 수 있다.

1. 무엇을 원하는가? 번역, 요약, 비교, 분석처럼 중심 작업을 구체적으로 명시한다.
2. 어떤 형태로 원하는가? 길이, 형식, 어조, 독자 수준과 산출물 유형을 지정한다.
3. 어떤 맥락과 예시가 필요한가? 판단에 필요한 원문, 데이터, 조건과 원하는 결과의 예시를 제공한다.
4. 어떻게 반복 개선할 것인가? 첫 답을 완성품으로 보지 않고 오류와 누락을 확인한 뒤 후속 요청으로 수정한다.

모호한 질문은 일반적인 답을 만든다. 예를 들어 “회귀분석을 설명하라”는 요청보다 분석 대상, 독자의 배경, 필요한 수학 수준, 예시 데이터, 결과 형식을 함께 제공한 요청이 더 목적에 맞는 답을 얻을 가능성이 높다. 여러 작업이 필요하다면 번호를 붙여 경계를 분명히 해야 서로 다른 요구가 한 답 안에서 섞이는 현상을 줄일 수 있다.

예시를 제공하는 few-shot 방식과 역할을 지정하는 방식도 소개된다. 다만 역할 문구 자체가 전문성을 보장하는 것은 아니다. “통계학자처럼 행동하라”고 요청해도 모델이 실제 통계 검증을 수행한 것은 아니므로, 역할은 문체와 관점을 조정하는 장치로만 이해해야 한다.

논문은 성인 교육에 생성형 AI를 활용하는 연구 아이디어를 만드는 사례를 통해 반복 개선을 보여 준다. 처음에는 단순히 아이디어를 요구하고, 다음 단계에서 아이디어 수·설명 길이·적용 환경을 제한하며, 이후 각 아이디어의 위험과 연구 질문을 추가한다. 마지막에는 실제 문헌을 검색해 근거를 붙이도록 요청한다. 그런데 완성된 예시에도 이미지 출처가 불확실하고 요청한 인용 형식이 지켜지지 않는 문제가 남았다. 저자들은 이 실패를 숨기지 않고, 결과가 그럴듯해 보여도 검증과 추가 수정이 필요하다는 사례로 사용한다.

프롬프트에 temperature 값을 적거나 공손한 표현을 줄이면 품질이 달라진다는 논의도 등장한다. 이러한 효과는 사용하는 모델, 제품 인터페이스와 버전에 따라 다를 수 있으므로 보편 규칙으로 외우기보다는 실제 결과를 비교하여 판단해야 한다. 논문의 더 일반적이고 지속 가능한 교훈은 요구사항을 명확히 하고, 근거를 확인하며, 결과를 반복적으로 평가하라는 것이다.

결론

이 논문은 생성형 AI의 기술적 작동 원리부터 연구 윤리와 실제 도구 사용법까지 한 흐름으로 연결한다. 가장 중요한 연결 고리는 “모델은 이해하는 주체가 아니라 패턴을 바탕으로 예측하는 시스템”이라는 설명이다. 이 전제를 받아들이면, 유창한 오류와 환각이 왜 발생하는지, 편향이 왜 사라지지 않는지, 인간의 감독과 출처 확인이 왜 선택 사항이 아닌지를 일관되게 이해할 수 있다.

논문의 강점은 컴퓨터과학 배경이 없는 연구자도 접근할 수 있는 언어로 ANN, token, attention, fine-tuning, tool, agent를 이어 설명하고, 이를 곧바로 학술 실무의 책임 문제와 연결한 데 있다. Figure 1은 학습과 역전파의 순환을, Figure 2는 키워드 검색을 넘어 인용 네트워크로 문헌을 발견하는 방식을 직관적으로 보여 준다. 특히 AI를 검색기, 연결기, 분석 보조자처럼 역할별로 나누어 선택해야 한다는 관점은 특정 제품명이 바뀌더라도 남는 실용적인 기준이다.

반면 이 글은 체계적 문헌고찰이나 성능 평가 연구가 아니다. 다루는 범위가 넓은 만큼 개별 기술의 설명은 단순화되어 있고, 도구 비교와 일부 성능 평가는 저자들의 사용 경험에 의존한다. 제품 기능, 요금제, 법적 해석, 모델 성능은 빠르게 변하므로 집필 시점의 정보로 읽어야 한다. “수학에 거의 완벽하다”, “자동화된 체계적 문헌고찰이 표준이 될 것이다”와 같은 표현도 입증된 결론보다는 저자들의 평가나 전망으로 구분해야 한다.

내가 이 논문에서 정리한 핵심은 AI 활용 범위가 아니라 검증 가능 범위를 먼저 정해야 한다는 것이다. 내가 이해하고 재현할 수 있는 반복 작업을 위임하면 AI는 연구 역량을 확장한다. 반대로 출처, 코드, 분석 가정과 해석을 검토할 수 없는 작업까지 넘기면 속도는 빨라져도 연구의 책임 구조는 약해진다. 생성형 AI를 잘 사용한다는 것은 더 많은 결과를 자동 생성하는 일이 아니라, 도구의 역할을 제한하고 결과를 의심하며 최종 판단을 스스로 유지하는 일이다.