구글 머천트 센터, AI 프롬프트가 그대로 노출됐다

결론부터 말하면 이렇다. 구글 머천트 센터의 AI 인사이트 리포트가 최종 문장이 아니라 그 문장을 만드는 내부 프롬프트(지시문)를 그대로 화면에 띄운 사건이 발생했다. 9월 7일 링크드인에서 처음 공개됐고, 보안 사고라기보다는 일시적인 표시 오류였지만, 그 덕분에 이 리포트가 어떤 방식으로 문장을 만드는지가 뜻하지 않게 드러났다.

이 글은 이번 노출 사건에서 정확히 무엇이 보였는지, 왜 SEO·이커머스 담당자에게 흥미로운 사건인지, 그리고 쇼핑몰 운영자가 지금 참고할 만한 점은 무엇인지를 짧게 정리한다.

정확히 무슨 일이 있었나요?

머천트 센터의 '상위 성과 인사이트(Top Performance Insights)' 리포트가 완성된 문장 대신 그 문장을 만드는 지시문을 그대로 보여줬다. 이를 처음 발견한 사람은 링크드인 사용자 비풀 쿠마르(Vipul Kumar)였고, 곧 SEO 전문 미디어 서치 엔진 라운드테이블(Search Engine Roundtable)의 배리 슈워츠(Barry Schwartz)가 다시 소개하며 알려졌다.

화면에는 다음과 같은 내부 요소들이 그대로 찍혀 있었다.

• 역할(role)·사고 과정(thinking)·서식(formatting) 지정 같은 AI 명령어
• AI가 분석해야 할 대상과 지켜야 할 규칙
• 상위 20개 상품의 클릭 변화 데이터
• 어떤 상품을 강조할지 고르는 선정 기준
• 실제 채워 넣을 응답 템플릿과 최종적으로 생성될 문장
• 화면에 보여주기 전 거치는 최종 검증 단계

배리 슈워츠는 이를 두고 "심각한 정보가 유출된 것은 아니지만, 프롬프트가 노출된 모습 자체는 재미있다(funny)"고 평가했다. 개인정보나 매출 같은 민감한 데이터가 새어 나간 사고는 아니라는 뜻이다.

이번 사건은 해킹이나 데이터 유출이 아니라, 화면에 보여줄 내용을 잘못 골라 노출한 표시 오류에 가깝다. 구글도 이를 공식적으로 확인하거나 해명하지 않았다.

왜 SEO·이커머스 담당자에게 흥미로운 사건인가요?

이 사건이 흥미로운 이유는 정보 유출이 아니라, AI 인사이트가 어떻게 만들어지는지를 우연히 보여줬기 때문이다. 노출된 순서를 정리하면 이런 흐름이다.

데이터 확보 → 규칙 적용 → AI 문장 생성 → 템플릿에 채우기 → 검증 → 화면에 인사이트 표시.

즉 이 리포트는 AI가 매번 자유롭게 판단해서 쓰는 글이 아니라, 정해진 규칙과 템플릿 위에서 AI가 빈칸을 채우는 구조라는 점이 이번에 확인됐다. 클릭 수가 눈에 띄게 바뀐 상품을 규칙으로 먼저 골라내고, 그 데이터를 AI에게 넘겨 정해진 문장 형식에 맞춰 서술하게 하는 식이다. AI 인사이트라고 해서 매번 완전히 다른 결과가 나오는 것이 아니라, 일정한 기준으로 걸러진 데이터가 정해진 틀에 맞춰 문장으로 바뀌는 과정이라는 사실이 이번 노출로 뒷받침된 셈이다.

쇼핑몰 운영자가 지금 참고할 시사점은 무엇인가요?

결국 이 리포트가 눈여겨보는 것은 "클릭 변화가 큰 상품"이라는 점이 이번에 다시 확인됐다. 아래 항목을 챙겨두면 이 기능을 더 잘 활용할 수 있다.

• 클릭 변화가 큰 상품부터 살핀다: 리포트가 상위 20개 상품의 클릭 변화를 기준으로 데이터를 고른다는 점이 드러났으니, 최근 클릭이 급등하거나 급감한 상품을 먼저 확인하는 습관이 유용하다.
• 상품 데이터 기본값부터 정리한다: 규칙이 데이터를 걸러내는 구조인 만큼, 제목·속성·재고 같은 기본 데이터가 정확해야 인사이트도 의미 있게 나온다.
• AI 문장을 결론이 아니라 신호로 본다: 정해진 템플릿에 데이터를 채운 결과이므로, 그 문장 자체를 최종 결론처럼 받아들이기보다 "어떤 데이터가 눈에 띄었는지" 알려주는 신호로 참고하는 편이 안전하다.

이런 표시 오류가 알려주는 가장 확실한 교훈은 결국 하나다. AI가 무엇을 말하든, 그 밑바탕은 우리가 넣어둔 상품 데이터라는 점이다.

머천트 센터의 AI 성과 인사이트가 정확히 어떤 지표를 다루는지는 4개국 확대 소식에서 더 자세히 다뤘으니 함께 보면 좋다.

이런 노출 사고는 자주 있는 일인가요?

구글 같은 대형 서비스에서도 새 AI 기능을 붙이는 과정에서 이런 표시 오류는 종종 나온다. 화면에 보여줄 부분과 내부적으로만 써야 할 부분을 구분하는 코드에 실수가 생기면, 사용자에게는 결과 문장 대신 그 문장을 만드는 지시문이 그대로 보이게 된다. 챗GPT 에이전트의 웹사이트 장악 사고처럼 실제 보안 위협으로 이어지는 사고와는 성격이 다르지만, AI 기능이 늘어날수록 이런 종류의 자잘한 노출은 앞으로도 계속 생길 가능성이 크다.

이번 사건 자체가 쇼핑몰 운영에 당장 조치가 필요한 사안은 아니다. 다만 머천트 센터 성과 보고서 개편처럼 구글이 AI 기반 리포트 기능을 계속 늘려가는 흐름 안에서 나온 사건이라는 점은 참고해 둘 만하다.

상품 데이터와 피드를 꾸준히 정리해 두면 이런 AI 리포트 기능이 새로 생기거나 바뀔 때마다 그 혜택을 그대로 누릴 수 있습니다. 이루웹은 이커머스 사이트의 홈페이지 제작부터 상품 데이터 점검까지 함께 살펴봐 드리고 있습니다. 이루웹의 다른 서비스도 확인해 보시고, 궁금하신 점은 언제든 문의 남겨 주시기 바랍니다.