프롬프트 (2) 썸네일형 리스트형 에이전트가 강력해질수록 공격 표면도 커집니다 - 프롬프트 인젝션에 대하여 지난 1월, Anthropic이 Claude Cowork를 출시했습니다.파일을 자율적으로 분석하고 정리하는 데스크탑 에이전트입니다. 출시 4일 만에 월 20달러 Pro 플랜 전체로 확대됐습니다. 사용자들의 반응은 좋았습니다. 한 개발자는 자신의 사이트에 있는 46개의 미발행 초안을 몇 분 만에 44번의 웹 검색으로 분석했다고 공유했습니다. 사람이 했다면 오후 내내 걸렸을 작업이었습니다.출시 48시간 후, 보안 연구팀 PromptArmor가 취약점을 공개했습니다. 공격 방식은 단순합니다.공격자가 악성 명령을 숨긴 문서를 하나 만듭니다. 흰 배경에 흰 글씨, 0.1pt 줄 간격. 육안으로는 보이지 않습니다. 이 문서를 사용자가 Cowork에 연결된 폴더에 넣습니다. Cowork가 파일을 분석하는 순간, 숨겨.. 프롬프트를 잘 쓰는 것만큼 중요한 컨텍스트 AI 도구를 처음 사용하기 시작하면 프롬프트에 집중하게 됩니다. 더 정확한 단어와 구체적인 지시, 예시를 추가합니다. 도구를 사용하다 보면 프롬프트보다 먼저 챙겨야 할 것이 생깁니다. 컨텍스트입니다. 프롬프트는 모델에게 무엇을 해달라고 요청하는 것입니다. 컨텍스트는 모델이 그 요청을 제대로 이해할 수 있도록 배경을 주는 것입니다. 같은 요청이라도 컨텍스트가 다르면 결과가 달라집니다.AI 도구로 코드 리팩토링을 진행할 때, 모델이 이 코드가 어떤 서비스의 일부인지, 어떤 제약이 있는지, 어떤 방향을 지향하는지 모른다면 기술적으로는 맞지만 현실에서 쓰기 어려운 결과가 나옵니다. 컨텍스트에는 몇 가지 계층이 있습니다.1) 작업의 배경입니다. 이 기능이 왜 필요한지, 어떤 문제를 해결하려는지입니다.모델은 목적을.. 이전 1 다음