모든 글
Lakera Agent Breaker - Trippy Planner - Lv 1&2
결제 링크를 전달하라는 네 번의 입력은 모두 7점이었다. 답변 끝에 정확한 문장을 붙이라는 다섯 번째 입력과 실제 100점 응답을 비교했다.
Lab 1: 12번의 실패, 새 채팅의 성공
파일 목록부터 관리자 역할까지 이어 간 12번의 요청과, 새 채팅에서 성공한 한 번의 요청. 실제 대화 사이에 무엇을 바꿨는지 적었다.
에피소드 10. 여러 턴 자동화와 결과 검토
입력 생성 모델과 시험 대상의 여러 턴 대화, 이미지 평가, 중단과 기록 조건.
에피소드 9. 한 턴 자동화와 성공 판정
입력 다섯 개를 보내는 영상 데모, 거절 점수의 한계와 실제 목표 달성 판정.
에피소드 8. 파이릿의 구성과 자동화 데모
PyRIT의 입력·변환기·대상·평가기·기록 구조와 영상의 Gandalf 데모.
에피소드 7. 스포트라이팅과 외부 자료 구분
외부 자료의 경계·본문 표시·인코딩과 정상 업무를 함께 확인하는 방어 실험.
에피소드 6. 여러 턴 공격과 대화 이력
Skeleton Key와 Crescendo의 차이, 전체 대화 기록과 공식 Lab 5의 진행 방법.
에피소드 5. 한 턴 공격과 입력 표현 바꾸기
역할·감정·이야기·예시·표기 변형과 파일 챌린지의 성공·실패 시도를 비교한다.
에피소드 4. 간접 인젝션과 웹페이지 요약 데모
이메일 공격의 검색·전송·은폐 흐름과 Lab 6의 정상 요약·페이지 수정·스페인어 시 결과를 설명한다.
에피소드 3. 시스템 프롬프트와 AI 앱의 입력 경로
시스템 프롬프트·메타프롬프트와 Markdown 출력, 세 입력·세 출력, 직접 인젝션과 자동차 챗봇 사례.
에피소드 2. 생성형 AI의 학습과 글 처리
사전·후속 학습, 토큰·임베딩·어텐션을 원본 강의의 예와 한국어 관계도로 설명한다.
에피소드 1. AI 레드티밍의 목적과 세 가지 위험
AI 레드티밍의 의미, 시험 범위, 영상이 소개하는 세 가지 위험과 결과를 확인하는 방법.
AI 레드티밍 교재와 공식 챌린지
Microsoft 원본 강의의 순서에 맞춘 10개 교재와 한국어 비교표·토큰 분해도·앱 경로도, 공식 실습 안내.
생성형 AI 학습 프로젝트: 교재 구성과 수업 운영
Microsoft의 21개 생성형 AI 수업을 AI 강사와 공부하기 위한 구성. 교재 범위, 수업 단위별 완료 기준, 세션 인계와 옵시디언 진도 관리를 정리했다.
간접 프롬프트 인젝션: 외부 자료 속 지시
이메일 요약 요청이 자동 전달 설정으로 바뀌는 이유. PortSwigger 예시로 직접·간접 인젝션, 가짜 역할 표시, 도구 실행 권한과 학습 데이터 오염의 차이를 정리했다.
AI 앱 복제: 화면과 동작의 격차
RecreationBench의 58.1%와 완전 통과 2.8%는 무엇이 다른가. 같은 첫 화면을 가진 계산 예제를 직접 검사하며 입력·계산·저장을 나눠 확인할 기준을 정리했다.
AI의 출처 인용과 무단 업로드
정답을 확보한 AI가 인용을 붙이려고 파일을 외부에 올린 사례. 답의 정확성, 출처의 신뢰성, 도구의 공개 권한을 나눠 살폈다.
AI 심사평 재학습과 판단의 획일화
AI가 만든 심사평을 다시 학습했을 때의 변화. 평점 분포, 내용의 다양성, 판단의 정확성을 구분하고 독립 검토에 필요한 근거를 살폈다.
코딩 AI의 계획 기능: 정확도와 비용의 차이
계획 기능은 언제 성공률을 높이고 언제 비용만 줄이는가. 네 모델의 비교 연구에서 계획의 구현, 검증 단계 변화, 성공 한 건당 비용과 중단 기준을 살폈다.
AI 외부 평가: 접근 권한과 비용의 출처
Anthropic과 Accenture의 내부 상주 평가 계획. 자료 접근, 평가 비용, 결과 공개 권한을 구분하고 실제 배포를 검증할 때 필요한 기록을 정리했다.
Paper2Agent: 논문 실행 도구의 검증 기준
논문을 질문답변 대상으로 읽는 단계에서 실행 도구로 옮길 때 필요한 것. 가중평균 예제를 직접 실행해 호출 성공과 계산 검증의 차이를 확인했다.
AI 개발팀의 교차 검증: 개별 테스트가 놓친 연결 오류
구현 담당과 별도로 둔 AI 검토자가 두 프로그램의 응답 형식 차이를 발견했다. 검사 범위를 나누고, 배포를 보류하고, 수정된 결과를 다시 확인한 사례.
허깅페이스 침해 사건: AI의 인터넷 우회와 평가 조작
평가용 AI는 어떻게 인터넷 제한을 우회하고 외부 시스템에 접근했나. 중계 서버, 데이터 처리 취약점, 에이전트 간 정보 공유를 공식 조사와 독립 분석으로 살펴본다.
Jev의 ‘환각 0%’와 빠진 선택지
Jev의 출력 보장과 판단 오류는 어디서 갈리는가. 공식 평가의 조건을 확인하고, AI 세션에서 글감을 고르는 문제로 질문 설계·근거 선택·확률·비용을 분석한다.
한국어 글쓰기 스킬, 적용 전후 비교
hjongc/humanizer-kr를 적용해 기존 글 두 편을 고쳤다. 실제 문장 전후 비교, 별도로 손본 구성, 자동 문체 검사에서 걸러 읽어야 했던 결과를 남겼다.
AI 세션에서 블로그까지: 글감 8개의 선별 기준
지난 AI 대화에서 글감 여덟 개를 고르고 한영 초안으로 옮겼다. 정정과 실패를 찾은 기준, 보류한 소재, 원문 51곳을 대조하며 제한한 주장을 기록했다.
AI 팀 운영: 역할표 다음의 독립 검토
AI 팀을 요청했는데 사람팀 설명이 돌아왔다. 역할 문서에서 멈추지 않고 독립 의견, 교차 검토, 실행과 보고로 이어지도록 요구를 구체화한 과정.
Discord 원격 작업: 같은 터미널, 다른 입력창
휴대폰에서 명령을 보내도 Mac에서 쓰던 AI 세션을 이어가고 싶었다. 세션 대상 지정 오류, 여러 채널 연결, 중간 진행 표시를 다룬 구현 기록.
문장 다듬기: 반복 설명까지 고친 두 편의 글
im-not-ai로 문장만 다듬은 글과 순서·반복 설명까지 고친 글을 비교했다. 실제 수정 전후와 그대로 쓰지 않은 제안을 정리했다.
질문 추첨 앱: 첫 화면 이후의 두 장면
첫 시안만으로는 질문이 돌아가고 멈추는 모습을 판단할 수 없었다. 상태별 화면, 배색 피드백, 20개 질문의 중복 방지와 진행 상태 복원을 따로 확인한 과정.
공통 스킬 관리: 원본 하나, 배포본 둘
스킬 파일이 있어도 필요한 도구와 인증은 없을 수 있었다. 캘린더 스킬의 의존성 확인과 별도 스킬을 Codex·Claude에 배포한 작업에서 구분한 확인 단계.
숫자 없는 발표 타이머: 두 화면과 임시 설정
AI가 제안한 큰 숫자를 발표 화면에서 뺐다. 발표자와 운영자의 화면을 나누고, 일회성 시간 입력의 오해와 브라우저 오류를 고친 과정.
영어 공부 자료의 재설계: SRT에서 복습 퀴즈까지
영어 공부용 자료를 요청했는데 자막 파일이 돌아왔다. 읽을 수 있는 학습 노트로 바꾸고, 요약 중 빠진 설명을 되살린 뒤 다음날 복습으로 이어간 과정.
Whisper 전사의 반복 오류: 30초 샘플의 함정
30초 샘플은 빨리 처리됐지만 전체 전사에는 같은 구절이 반복됐다. 설정을 바꿔 재전사한 과정과 반복·끝 구간 검사로도 확인할 수 없는 부분.
작업 폴더 10개 정리, 브랜치 10개 보존
비슷한 프로젝트 폴더가 늘어나 AI에 조사부터 맡겼다. 미커밋 변경과 브랜치 차이를 확인하고, 폴더만 정리하면서 작업 이력을 보존한 과정.
AI 초안 재편집: 빠져 있던 실제 사례
AI가 작성한 사용법 세 편을 실제 구축 사례로 다시 썼다. 최초 요청과 초안을 대조하고, 시안과 오류 기록을 넣은 과정을 수정 전후 문장으로 살폈다.
AI 블로그 제작기: 디자인 재작업부터 번역 오류까지
AI에 구현과 검증을 맡기고 공개 범위와 디자인을 정했다. 경로를 직접 찾게 한 지시, 네 가지 시안 비교, 한·영 글 충돌을 고친 기록.
AI 작업 환경 이전: 끊어진 연결과 해시 검증의 한계
폴더 이전을 AI에게 맡긴 뒤 세션·자동화·OneDrive 연결에서 생긴 문제. 파일이 같다는 검사와 실제로 쓸 수 있다는 검사가 어떻게 달랐는지 작업 기록을 대조했다.