네이처(Nature) 저널에서 인정하는 ChatGPT 의 허용 범위

Springer Nature 저널에서의 두 가지 방침

1. ChatGPT는 어떤 경우도 authorship로 인정받을 수 없다.
2. ChatGPT는 method 와 acknowledgements section에서만 사용할 수 있다.

ChatGPT와 과학

 최근 뜨거운 감자로 자리매김하고 있죠. 정말 유용한 도구이지만 악용될 여지가 너무 많아 각국에서 규제 마련에 서두르고 있습니다. 예를 들자면, AI 시험대리, 악성 프로그램 코드 작성, 루머 작성, AI 논문 작성 등이 있습니다. 사실 ChatGPT 이전에도 AI chatbot의 도움을 여러모로 받고, 잘 사용하고 있었는데 갑작스레 이슈가 되고 있는 이유가 무엇일까요?

 

 이전 AI chatbot의 경우엔 '도움'을 주는 도구로 쓰이고 있었습니다. 대표적으로 영어 번역, 맞춤법 검사, 문장 요약 정도가 있겠네요. 그러나 AI ChatGPT는 도움을 주는 단계에서 더 나아가 일을 주도할 수 있게 되었습니다. 몇 개의 키워드와 추가적인 요구사항을 입력하면 사람과 유사하게 글을 작성해줍니다. 그만큼 악용의 소지도 커졌습니다. 

 

 과학 분야에서는 글의 흐름을 파악하거나 피드백을 주는 정도에서, 이제는 chatbot이 소개, 본론 및 토의내용, 결론까지 모든 걸 작성할 수 있게 됐습니다. 이에 따라 세계적인 자연과학 저널 Nature에서 가이드를 내놓습니다.

 

 스탠포드 대학에서 연구 중이고, Radical AI Network 를 개발한 Pratyusha Kalluri 박사가 집필한 내용인데요. 전반적인 chatGPT가 불러오는 파장과 이에 따른 제한, 대응 방안 및 해결 방안을 제시하고 있습니다.

 

 먼저, 저자로 인정이 되지 않습니다. ChatGPT는 책임을 질 수 없기 때문입니다. 과학은 끊임 없는 발견과 이를 통한 오류의 정정으로 발전하고 있습니다. 새로운 발견에 의해 기존의 이론이 틀렸다고 밝혀질 경우, 과학자들은 이를 정정하고 새로운 방향을 제시합니다. 그러나 ChatGPT는 기존의 연구(새로운 발견에 정정이 필요한 연구)를 학습하고 새로운 발견을 적용하여 방향을 제시할 수 있을까요? 아직까지는 불가능합니다. 

 

 두번째로, method(실험 방법 등)와 acknowledgements (사사)에서만 사용할 수 있습니다. 과학 논문을 쓸 때 실험 결과를 토대로 가설을 증명하고 이에 대한 의견을 제시하는 파트가 본문에 해당합니다. 이를 ChatGPT가 쓴다면 과학자로서의 자질을 어떻게 검증받을 수 있을까요? 과학자는 연구하고 자신이 세운/발견한 가설을 증명하면서 자신의 역량을 입증하는 직업인데, 대부분 chatbot으로 작성한 논문에 한 두줄 자신의 의견만 첨가해 논문을 작성한다면, 동료 연구자들이 어떻게 그의 역량을 파악하고 인정할 수 있을까요?

ChatGPT 대응과 향후 대처

 수동적인 관점에서는 두 가지 대응 방법이 제시됐습니다. ChatGPT의 output pattern을 파악하는 방법과 ChatGPT 제작사에서 그 작업물에 watermark를 부여하는 방법입니다. 그러나 둘 다 완벽하지 않습니다. ChatGPT는 점점 더 발전하여 pattern 파악이 힘들어질 것이고, watermark는 보고 똑같이 타이핑함으로써 회피해 나갈 수 있습니다. 

 

 현실적인 대응으로 삶의 방식이 달라질 수 있습니다. 암기식 시험에서 주어진 정보를 활용하여 응용하거나 새로운 방향을 제시하는 방법으로 바뀐다면 ChatGPT가 좋은 도구로서 활용될 수 있습니다. 산업에서도 기본적인 코드 프레임만 작성하던 프로그래머의 자리가 대체되고, 이를 응용할 수 있는 역량을 갖는 프로그래머만 살아남게 될 수 있습니다. 

 

 많은 우려가 있지만, 여태 그래왔듯 변화의 시점에서 적응하고 기회를 포착한다면 한 걸음 더 앞서 나갈 수 있으리라 생각됩니다.