AI가 과학적 신뢰성을 저해하고 있을까요?
연구 보조금 신청서 및 논문에서의 책임 있는 AI 사용에 관한 1,000명 이상의 과학자 및 심사위원들의 의견입니다.
피츠버그 대학교 심리학 및 정신의학 교수
하버드 의과대학 내과 교수
레지오 에밀리아(Reggio Emilia) 보건국(Azienda USL) – IRCCS 팀장
텍사스 대학교 MD 앤더슨 암 센터 흑색종 내과 종양학과 교수
루드비히 암 연구소(Ludwig Institute for Cancer Research) CEO 겸 과학 디렉터, 존스 홉킨스 대학교 블룸버그 암 의학 석좌교수
2026년 봄, BioRender는 489명의 동료 심사위원과 276명의 연구 보조금 심사위원을 포함한 1,063명의 현직 과학자를 대상으로 AI 활용 현황과 신뢰도에 관한 설문조사를 실시했습니다. AI 도입률은 79%(최소 하나 이상의 AI 도구 사용)로 높지만, 신뢰도는 낮게 나타났습니다. 동료 심사위원 및 연구 보조금 심사위원의 81%는 AI가 생성한 콘텐츠를 사람이 직접 작성한 결과물보다 덜 신뢰한다고 답했습니다.
데이터를 통해 얻을 수 있는 가장 분명한 결론은 AI로 생성된 도표가 포함되지 않았을 때 연구의 신뢰도가 가장 높다는 점입니다. AI는 초기 단계의 탐색이나 아이디어 구상에는 유용하지만, 논문이나 연구 보조금 신청서에 들어갈 최종 과학 도표의 기준을 충족하기에는 아직 부족합니다. 다만 기술과 정책은 계속해서 발전하고 있으며, BioRender는 시간의 흐름에 따른 변화를 추적하기 위해 정기적으로 재조사를 실시하고 있습니다. 연구자분들은 언제든지 다음 페이지를 방문하여 최신 정보를 확인하실 수 있습니다. AI 리소스 페이지.
AI를 사용하는 과학자들을 위해, 데이터가 제시하는 심사위원들의 신뢰를 유지하기 위한 4가지 핵심 방법은 다음과 같습니다.
“과학과 과학적 소통 분야에서 AI를 책임감 있게 활용할 여지는 분명히 있습니다. 하지만 과학자는 본래 회의적인 존재입니다. AI 시대에 이러한 근본적인 자질을 잃는다면, 우리가 여전히 과학자라고 할 수 있을까요? 아니면 그저 의문 없이 기계를 조작하는 사람에 불과할까요? 현재로서는 AI가 생성한 콘텐츠를 볼 때마다 저자성, 엄밀성, 타당성, 독창성에 대해 해소되지 않는 의구심이 듭니다.”
피츠버그 대학교 심리학, 정신의학 및 임상 중개 과학 교수
AI는 어디에나 있지만, 심사위원들은 이를 신뢰하지 않습니다
AI 도입은 빠르게 확산되어 과학자의 79%가 도표 제작에 AI를 사용하고 있으며, 절반 이상이 매주 또는 매달 이를 활용하고 있습니다. 과학자의 29%는 데이터 시각화에 AI를 사용하며, 33%는 정확성이 무엇보다 중요한 동료 심사 논문에 AI 보조 도표를 사용한 경험이 있습니다.
문제는 연구비 지원 심사위원이나 동료 심사위원들이 이러한 도표를 신뢰하지 않는다는 점입니다. 과학적 도표에 대한 신뢰도를 평가해 달라는 질문에, 완전히 AI가 생성한 도표를 신뢰한다는 응답은 10%에 불과한 반면, 사람이 직접 만든 도표를 신뢰한다는 응답은 74%였습니다. AI로 제작했으나 사람이 편집한 도표는 54%의 과학자가 신뢰한다고 답했는데, 이는 연구자의 기여가 AI의 신뢰도를 높이기는 하지만 사람이 직접 만든 도표 수준에는 미치지 못함을 시사합니다.심사위원의 82%가 정확성과 과학적 타당성을 가장 큰 우려 사항으로 꼽은 만큼, 메시지는 분명합니다. AI는 보조 수단이 될 수 있지만, 인간의 판단과 편집은 여전히 필수적입니다.
학술지에 게재된 논문에서 도표를 발견했다고 가정해 봅시다. 다른 조건이 모두 동일할 때, 다음 세 가지 상황에서 해당 도표의 신뢰도를 얼마나 믿으시겠습니까?
“과학에서 모든 도표는 함의를 지니며, 과학자는 그에 대한 책임을 져야 합니다. AI가 생성한 콘텐츠는 책임 소재가 불분명합니다. 이러한 이유로 생산되는 모든 과학적 콘텐츠에는 인간의 감독이 필요합니다.”
레지오 에밀리아(Reggio Emilia) 보건국(Azienda USL) – IRCCS 팀장
저자로서 AI가 생성한 도표를 제출할 때 가장 우려되는 점은 무엇입니까?
규정 준수 위험은 실재합니다
대부분의 주요 저널은 AI를 활용한 도표 생성을 금지하거나 제한하며, 최소한 매우 구체적인 공개를 요구하고 있습니다. 그럼에도 불구하고 과학자의 63%는 자신이 투고하는 저널의 AI 정책을 찾을 수 없거나 확인하지 않았다고 답했습니다. 정책을 찾아본 사람 중에서도 명확한 규정을 발견한 비율은 30%에 불과했습니다. 이는 심각한 규정 준수 위험입니다. 저널이나 연구비 지원 기관의 정책을 위반하면 연구자의 입지가 좁아지고 향후 논문 게재에 차질이 생길 수 있지만, 대부분의 연구자는 이러한 정책을 잘 알지 못합니다.
“연구에서 AI가 생성한 도표에 대해 가장 우려되는 점은, 도표가 표절이 가장 빈번하게 일어나는 영역 중 하나이며 AI가 이러한 골치 아픈 추세를 더욱 가속화할 것이라는 사실입니다.”
하버드 의과대학 내과 교수
연구비 지원 기관들도 이 문제를 주목하고 있습니다. 2025년 9월 25일부터 시행되는 NIH의 공지사항(NOT-OD-25-132)은 심사위원들에게 AI가 상당 부분 작성한 연구 제안서를 거부하도록 지시하고 있으며, NIH는 제출된 자료에 대해 AI 탐지 도구를 사용하고 있다고 밝혔습니다.
저자에게 규정 미준수에 따른 대가는 큽니다. AI를 금지하는 저널이나 지원 기관에 제출된 도표는 연구자의 평판을 떨어뜨리고 향후 논문 게재나 연구비 확보를 어렵게 만들 수 있습니다. 또한 논란이 된 도표는 신뢰성에 대한 더 광범위한 의문을 제기합니다. 저자가 연구 내용을 검증했는가? 논문의 나머지 부분도 믿을 수 있는가? 신뢰도가 연구비 지원, 승진, 협력에 영향을 미치는 학계에서, 한 번의 도표 논란은 정정 이후에도 오랫동안 지워지지 않는 낙인이 될 수 있습니다.
미국과 유럽연합(EU) 전역에서 AI 정책이 자발적 가이드라인에서 의무적 요구 사항으로 전환됨에 따라, 규제 방향을 더 이상 간과하기 어려운 상황이 되었습니다.
연구에 대한 신뢰를 잃지 않으면서 AI를 활용하는 방법
AI는 이제 거스를 수 없는 현실이 되었지만, 연구에 대한 신뢰를 유지하려면 책임감 있는 사용이 무엇보다 중요합니다. 연구에서 AI 사용을 완전히 금지해야 한다고 생각하는 과학자는 5%에 불과합니다. 대신 77%의 과학자들은 자신의 평판이나 연구비, 논문에 위험을 초래하지 않으면서 AI를 활용할 수 있도록 하는 의무적인 표준과 요구 사항을 원하고 있습니다.
다음 중 AI가 생성한 그림을 가장 신뢰하게 만드는 요소는 무엇입니까?
AI에 대한 심사위원들의 태도가 크게 엇갈리고 정책이 여전히 정립되는 과정에 있는 지금, 저희 설문조사 데이터는 과학적 신뢰성을 유지하기 위해 따라야 할 일련의 권장 사항을 제시합니다.
“과학적 진실성을 위협하는 것은 존재하지 않는 데이터로 그림을 생성하는 AI의 능력입니다. 따라서 저는 ‘신뢰’란 수작업으로 만들든 AI를 사용하든 상관없이 그림을 생성하는 연구자의 진실성에 달려 있다고 생각합니다.”
루드비히 암 연구소(Ludwig Institute for Cancer Research) CEO 겸 과학 디렉터, 존스 홉킨스 대학교 블룸버그 암 의학 석좌교수
권장 사항 1 · AI가 해당 작업에 적합한지 판단하십시오
데이터는 분명합니다. AI가 생성한 그림은 아직 공식적인 과학적 소통 수단으로 활용될 만큼 충분한 신뢰를 얻지 못했습니다. AI는 브레인스토밍이나 탐색을 위한 시작점으로서의 역할은 할 수 있지만, 출판을 위한 최종 도구로 사용하기에는 부족합니다. 자신의 신뢰성을 보호하고 공개 요구 사항이나 저널 및 연구비 지원 기관의 변화하는 정책에 따른 복잡한 문제를 피하고 싶은 연구자들에게 가장 간단한 방법은 과학적 그림에 AI 사용을 완전히 배제하는 것입니다.
권장 사항 2 · 과학 연구용으로 제작된 AI 도구를 사용하십시오
AI를 사용하는 연구자에게는 도구 선택이 중요합니다. 범용 AI 도구와 이를 기반으로 만들어진 과학 관련 제품들은 출처가 불분명한 데이터를 가져오며, 무엇이 생성되거나 수정되었는지에 대한 명확한 기록을 제공하지 않습니다. 바로 이러한 감사 추적(audit trail)이 동료 심사위원들과 EU AI 법과 같은 새로운 규제에서 요구하는 핵심 사항입니다. 반면, 과학 연구를 위해 특별히 설계된 도구는 검증된 이미지를 사용하며 설계 단계부터 이러한 기록을 유지합니다. 과학자들은 이미 그 차이를 인지하고 있습니다. 74%의 과학자가 범용 AI보다 과학 연구용으로 제작된 도구를 더 신뢰한다고 답했으며, 64%는 그림에 대한 신뢰도를 높이는 가장 중요한 요소로 ‘신뢰할 수 있는 과학 도구 사용’을 꼽았습니다.
권장 사항 3 · 충분한 인간의 검토와 편집 과정을 거치십시오
AI의 결과물은 완성된 그림이 아닌 초안으로 취급해야 합니다. 최고의 과학 도구들은 이러한 점을 고려하여 설계되었으며, 연구자가 작업이 완료되기 전에 직접 편집하고 다듬으며 자신의 판단을 적용할 수 있도록 지원합니다. 데이터는 이러한 접근 방식의 중요성을 강력하게 뒷받침합니다. AI가 생성한 그림을 사람이 직접 편집하면 신뢰도 점수가 5점 만점에 2.03점에서 3.49점으로 상승하며, AI를 전혀 사용하지 않은 그림과의 격차를 약 70%까지 좁힐 수 있습니다.
권장 사항 4 · 사용 도구와 방법을 명확히 밝히십시오
AI를 사용할 경우, 사용 사실을 공개하는 것은 선택이 아닌 필수입니다. AI 활용 사실을 밝히는 것이 다소 회의적인 시선을 불러올 수는 있지만, 아예 공개하지 않았을 때 발생하는 의심보다 훨씬 덜 치명적입니다. 과학계의 규범은 이미 이러한 방향으로 변화하고 있습니다. 과학자의 60%가 AI 도구 사용 여부를 기본적으로 공개해야 한다고 답했습니다. 2026년 8월 2일부터는 EU AI 법(EU AI Act)에 따라 이러한 기대 사항이 법적 의무가 됩니다. 학술지, 출판사, 연구비 지원 기관들은 저자에게 사용된 특정 모델이나 도구를 명시하고, 감독 범위를 설명하며, AI가 연구에 기여한 방식에 대한 추가적인 맥락을 제공할 것을 점점 더 요구하고 있습니다.
권장 사항 5 · 학술지 정책 준수하기
투고 전, 목표 학술지, 출판사 또는 연구비 지원 기관의 AI 정책을 항상 확인하십시오. 정책이 명시되어 있지 않거나 여러 정책이 상충하는 경우, 더 엄격한 기준을 따르십시오.
실제로 이는 말처럼 쉽지 않습니다. 설문조사에 참여한 과학자의 63%가 자신이 투고하려는 학술지의 AI 정책을 찾지 못했습니다. 확실하지 않을 때는 신중을 기하여 투고 시 AI가 생성한 그림을 사용하지 않는 것이 좋습니다. BioRender는 학술지 및 연구비 지원 기관의 최신 AI 정책을 추적하며, 연구자들이 자신 있게 대처할 수 있도록 리소스를 제공합니다. 최신 정책에 대해 자세히 알아보려면 AI 리소스 페이지를 방문하세요.
“과학적 정보를 제시하려면 이해의 과정이 필요한데, 이는 어떤 AI 모델도 달성할 수 없는 영역입니다. AI가 생성한 자료에만 전적으로 의존하고 수동으로 과정을 연습해보지 않은 사람은 안일함과 세부 사항에 대한 부주의에 빠질 위험이 있으며, 이는 과학적 정체를 초래하는 두 가지 주요 요인입니다.”
텍사스 대학교 MD 앤더슨 암 센터 흑색종 내과 종양학과 교수
BioRender는 연구자들이 자신 있게 과학적 내용을 전달할 수 있도록 돕기 위해 만들어졌습니다. 학술지 투고가 목표든 더 빠른 탐색이 목표든, BioRender는 연구자가 모든 그림에 적합한 방식을 선택할 수 있는 유연성을 제공합니다. 5만 개 이상의 전문가 검증 아이콘과 템플릿 라이브러리를 통해 세련되고 규정을 완벽히 준수하는 그림을 몇 분 만에 쉽게 제작할 수 있습니다. AI를 활용하고자 하는 연구자를 위해 BioRender의 도구는 과학 연구에 최적화되어 설계되었습니다. 기본 이미지는 과학 전문가의 검증을 거치며, 워크플로우는 연구자가 최종 결과물을 직접 통제할 수 있도록 구성되어 있습니다. 여기에는 프로토콜, 타임라인, 순서도의 완전 편집 가능한 초안 생성, 텍스트 프롬프트나 스케치를 맞춤형 그림으로 변환, 맞춤형 아이콘 제작 등이 포함됩니다.
