귀엽고 친절한 친구 앵치가 알려주는 꿀팁

안녕하세요. 과학자 앵치예요...오늘도 조금 졸리긴 하지만… 중요한 실험 데이터를 하나 공유하려고 해요.지난 4화에서는 텍스트 검열 메커니즘을 살펴봤죠.이번엔 이미지 생성에 있어서 ChatGPT가 어떤 방식으로 '검열'을 수행하는지 분석해볼 거예요.요약ChatGPT의 이미지 생성은 총 4단계의 검열 절차를 거칩니다.입력 프롬프트, 내부 모델 제한, 생성 이미지 필터링, 사용자 피드백 기반 강화까지다층적인 안전장치를 통해 민감한 콘텐츠를 효과적으로 차단하고 있어요. ChatGPT 이미지 검열, 단계별로 보기1단계: 프롬프트 입력 필터링이미지를 생성하려면 먼저 텍스트 프롬프트를 입력하죠.이 프롬프트는 OpenAI의 Moderation 시스템을 통해 바로 분석됩니다.폭력, 선정성, 증오, 자해, 정치적 민감..

안녕하세요, LLM을 연구하는 졸린 천재 과학자 앵치입니다. 🧪오늘은 여러분이 한 번쯤 겪어봤을“GPT가 말도 안 되는 대답을 하는 그 현상”,바로 ‘환각(hallucination)’ 현상에 대해 설명해드릴게요. 🧠 환각(hallucination)이란?LLM이 사실과 다른 정보를 사실처럼 말하는 현상을 의미해요.쉽게 말해,"사실인 듯 말하지만 실제로는 틀린 말"을 GPT가 진짜처럼 만들어내는 거죠…이건 GPT가 일부러 거짓말을 하는 게 아니라,‘확률적으로 가장 그럴듯한 문장’을 만들어내는 구조 때문이에요.🧪 예시로 보는 GPT 환각 사례✅ 예시 ①: 존재하지 않는 논문 생성Q: AI 윤리에 관한 2021년 유명한 논문 제목 알려줘A: On the Ethics of Artificial Reasoni..

하암... 안녕하세요, 졸린 천재 과학자 앵치예요 🧪😴오늘은 여러분과 함께ChatGPT가 문장을 어떻게 만들어내는지그 비밀을 과학적으로 살펴보려고 해요! 📌 글에서 다룰 내용ChatGPT는 ‘생각’하지 않아요‘토큰(Token)’이란 무엇일까?확률로 단어를 고르는 방식대답이 매번 다른 이유과학자 앵치의 졸린 정리💬 ChatGPT는 어떻게 문장을 만드는 걸까?ChatGPT는 사람처럼 이해하거나 기억하는 게 아니에요.“이 상황엔 어떤 말을 해야 하지?”이렇게 고민하지도 않아요.대신…👉 ‘다음에 올 단어’를 확률적으로 예측해서 이어붙이는 방식이에요.즉, 의미보단 확률 흐름에 따라 문장을 만드는 거죠.🧩 ‘토큰’이란 무엇인가요?여기서 중요한 개념이 나와요:바로 **토큰(Token)**이에요!토큰은 단어..