[Animal Insight] AI가 생물 정보 데이터를 오염시킨다
- 2026.08.17
- |
- 동물과미래포럼 사무국
Animal Insights | 시민과학 신뢰성 위협하는 생성형 인공지능
원문읽기 I Lees, A. C., Iwane, T., Seeholzer, G. F., Seltzer, C., & Webster, M. S. (2026). Citizen science platforms must mitigate against the threat of generative AI. Nature Ecology & Evolution, 10, 1389–1390. DOI: https://doi.org/10.1038/s41559-026-03141-y
🐮 핵심 내용은?
브라질에서 한 시민이 흔한 텃새 '에폴렛꾀꼬리'를 찍어 시민과학 플랫폼인 '아이내추럴리스트'에 올렸다. 사람들은 북미산 희귀 미조인 '붉은날개검은지빠귀'로 생각했다. 이 시민은 사진을 '더 좋게' 만들려고 구글 AI 편집 도구를 썼을 뿐인데, 인공지능이 사진을 재구성하며 다른 종으로 바꿔버린 것이다. 논문은 인공지능으로 인한 데이터 오염이 종의 분포·이동 등에 대한 잘못된 결론으로 이어질 수 있다고 경고한다.
- 인공지능에 의해 데이터가 오염되는 방식이 두 가지다. ① 처음부터 가짜 사진을 만들기 ① 인공지능을 사진 보정이 대상을 가짜로 만들어 버리는 경우.
- 인공지능을 이용한 사진 보정의 경우, 인공지능이 흐릿한 부분을 복원하는 게 아니라 학습 데이터에서 '그럴듯한' 모습으로 다시 그린다. 이 과정에서 식별할 수 있는 결정적인 특징이 생기거나 사라진다.
- 오염된 데이터를 보고 AI 종 식별 모델이 다시 학습하는 악순환에 빠질 위험이 있다.
(a)는 인공지능 '제미나이'가 새로 생성한 붉은날개검은지빠귀. (b)는 매콜리 라이브러리의 실제 에폴렛꾀꼬리 사진이다. (c)는 이 사진을 인공지능이 더 좋게 편집한 결과다. 흔한 현지의 새가 북미의 희귀 미조로 둔갑했다. © Lees et al.(2026) / Nature Ecology & Evolution
🌐 상세 분석
왜 흔한 새가 희귀종이 되나
'생성형 AI'의 편집은 전통적 보정과 다르다. 밝기나 색을 조정하는 대신, 가려지거나 흐릿한 부분을 학습한 패턴으로 '새로 생성'한다. 문제는 AI가 종의 특징을 이해하는 생물학자가 아니라는 점이다. 학습 데이터에 흔한 종의 사진이 압도적으로 많으면, AI는 낯선 현지 종의 흐릿한 부분을 자신에게 익숙한 종의 특징으로 채워버릴 수 있다. 에폴렛꾀꼬리가 붉은날개검은지빠귀가 된 이유다. 저자들은 실제로 같은 방식으로 편집 과정을 재현하여 이러한 변형을 확인했다. 몇 초 만에 고품질 가짜를 만들거나, 가지·잎을 지워달라는 요청만으로도 의도치 않게 상당한 변형이 이뤄진다.
오염된 데이터 규모 모른다
연구진은 매콜리 라이브러리, 아이내추럴리스트, 브라질 위키에이브스 등에서 최근 수백 건의 AI 생성 이미지를 확인했다. 관리자들이 걸러내곤 있지만, 발견되지 않은 이미지가 얼마인지는 알 수 없다. 아이내추럴리스트에 쌓인 6억 1,000만 장 넘는 사진 중 AI 사용으로 표시된 건 1,400장에 불과하다. 빙산의 일각일 가능성이 크다.
더 큰 걱정은 소셜미디어다. 논문을 쓴 리스 교수는 "요즘 페이스북을 보면 야생동물 사진 상당수가 AI 생성물"이라고 말한다. 인공지능은 소셜미디어를 보고 학습한다면?
💡AFF's Comment
'신종을 발견했다'는 주장이 거짓으로 확인된 역사가 많다. 그러니, '가짜 새' 자체는 그리 새로운 일이 아니다. 하지만 인공지능 시대의 가짜 새들의 문제점은 '악의가 없다'는 점이다. 이 사람은 속이려 하지 않았다. 그저 사진을 더 선명하게 만들고 싶었을 뿐이다. 인공지능은 시민과학의 신뢰성을 위협하는 것은 물론 생명 과학의 토대가 되는 데이터를 오염시킬 수 있다. 시민과학에서 인공지능 사용에 대한 규범이 논의되어야 한다. 남종영 운영위원(기후변화와동물연구소)
@ kawa.forum
