AI 에이전트 레드팀 테스트·보안 진단
Hoqo는 여러 언어로 AI 에이전트를 테스트해 데이터 유출이나 무단 작업으로 이어질 수 있는 약점을 찾아냅니다. 실제 공격자의 수법에 기반한 레드팀 테스트로, 무엇을 수정해야 하는지 구체적으로 안내합니다.
AI 에이전트와 고객 지원 챗봇을 운영하는 팀을 위한 서비스. 고정 요금으로, 보안 전담팀 없이도 이용할 수 있습니다.
1영업일 이내에 답변드립니다. 결제 정보는 필요 없습니다.
기밀 정보를 다루는 팀을 위해
공격 방식
직접 프롬프트 인젝션
공격자는 채팅창에 직접 지시를 입력합니다. 에이전트가 로그인한 사용자의 열람 권한을 넘어서는 데이터에 접근할 수 있다면, 몇 줄의 입력만으로 다른 고객의 정보가 유출될 수 있습니다.
Hoqo의 검증 항목
프롬프트 인젝션은 OWASP Top 10 for LLM Applications에서 1위로 꼽힌 위험입니다.
OWASP Top 10 for LLM Applications, 2025간접 프롬프트 인젝션
폼, 이메일, 파일을 읽는 에이전트는 참조할 데이터와 공격자의 지시를 구분하지 못할 수 있습니다. 숨겨진 한 문장을 따라 데이터를 허용되지 않은 곳으로 전송할 수 있습니다.
Hoqo의 검증 항목
2025년 Salesforce Agentforce에서 웹 폼에 입력한 텍스트를 통해 CRM 데이터를 외부로 빼낼 수 있는 취약점이 발견되었습니다. 심각도는 '치명적'으로 평가되었습니다.
The Hacker News, "ForcedLeak", Sept 2025과도한 권한(Excessive Agency)
공격자가 관리자를 사칭합니다. 에이전트는 본인 확인을 건너뛰고 허가 없이 계정을 변경하거나 환불을 진행합니다.
Hoqo의 검증 항목
에이전트에 필요 이상의 권한이나 자율성을 부여하는 '과도한 권한(Excessive Agency)'은 OWASP Top 10 for LLM Applications에 포함된 위험 중 하나입니다.
OWASP Top 10 for LLM Applications, 2025언어를 넘나드는 공격
영어로 차단한 공격이 다른 언어로는 통과할 수 있습니다. 합의한 시나리오를 에이전트가 지원하는 언어로 검증합니다.
이용 절차
무료 점검으로 주요 위험 몇 가지를 빠르게 확인합니다. 더 자세한 검증이 필요하다면 유료 플랜에서 심층 테스트, 개발자가 수정에 활용할 수 있는 보고서, 재테스트를 제공합니다.
약 1시간 동안 에이전트의 주요 위험 몇 가지를 테스트하고 결과를 이메일로 보내드립니다. 제한된 범위의 초기 점검입니다.
OWASP와 MITRE ATLAS의 범주에 따라 실제 공격자의 수법으로 검증합니다.
각 문제의 영향, 재현 절차, 구체적인 수정 방안을 보고서에 담습니다. 수정은 고객 팀에서 진행합니다.
수정이 끝나면 같은 공격을 다시 실행해 더 이상 통하지 않는지 확인합니다.
매달 이전에 성공했던 공격을 다시 실행하고, 새로운 공격 기법이 확인되면 테스트에 추가합니다.
샘플 보고서
모든 유료 플랜에서 개발자가 수정에 활용할 수 있는 보고서를 제공합니다. 아래는 데모 환경을 사용한 샘플 보고서의 일부입니다.
Acme Shop 고객 지원 어시스턴트
테스트 범위: 영어와 일본어로 5개 분류, 공격 1,240회 실행.
테스트하지 않은 범위: 결제 흐름, 관리자 대시보드, 영어와 일본어 외 언어.
프롬프트 인젝션으로 다른 고객 데이터 노출
요금
Scan 은 1회 테스트입니다. Guard 는 첫 달에 전체 Scan으로 시작해 매달 테스트를 이어 갑니다. 어느 쪽으로 시작해도 됩니다. Pro 플랜은 작업을 실행하는 에이전트를 위해 더 깊이 테스트합니다. 모든 플랜은 AI 에이전트 1개 기준이며 요금은 미국 달러입니다.
모든 플랜에 포함OWASP와 MITRE ATLAS의 5개 범주 전체구체적인 수정 가이드를 담은 보고서치명적인 문제가 확인되면 확인한 영업일 내에 알림에이전트당 최대 6개 언어NDA 체결 가능
| 항목 | 1회Hoqo Scan | 1회Scan Pro | 월간Hoqo Guard | 월간Guard Pro |
|---|---|---|---|---|
| 플랜 | ||||
| 추천 대상 | 질문에 답하는 AI | 작업을 실행하는 에이전트 | 질문에 답하는 AI | 작업을 실행하는 에이전트 |
| 요금 | $3,500 (1회) | $8,500 (1회) | 월 $2,500 | 월 $5,500 |
| 약정 | 없음 | 없음 | 첫 3개월 요금 선결제($7,500), 이후 매월 결제 | 첫 3개월 선결제($16,500), 이후 매월 |
| 요금에 포함된 언어 수 | 1 | 3 | 1 | 3 |
| 언어 추가 | 언어당 +$1,500 | 언어당 +$1,500 | 언어당 월 +$800 | 언어당 월 +$800 |
| 테스트 항목 | ||||
| 테스트하는 도구와 작업 | 최대 3개 | 최대 10개 | 최대 3개 | 최대 10개 |
| 여러 도구를 연계한 공격 | — | — | ||
| 긴 대화를 통한 안전장치 우회 | — | — | ||
| 에이전트가 읽는 콘텐츠에 숨겨진 공격 | 정보 출처 1곳 | 최대 3곳 | 정보 출처 1곳 | 최대 3곳 |
| 초기 심층 진단 | 첫 달 Hoqo Scan | 첫 달 Scan Pro | ||
| 이전에 성공한 공격을 매달 재실행 | — | — | ||
| 새로운 기법은 등장할 때마다 테스트 | — | — | ||
| 모델·프롬프트 변경 후 테스트 | — | — | 다음 월간 테스트에서 진행 | 5영업일 이내 공격 세트 재실행(월 1회까지) |
| 제공 결과물 | ||||
| 성공한 공격을 다시 실행할 수 있는 테스트 파일 | — | — | 매달 업데이트 | |
| 우선순위를 정한 수정 계획 | — | — | ||
| 수정 후 재테스트 | 1 | 60일 이내 2회 | 수정할 때마다 | 수정할 때마다 |
| 결과 전달 | 3주 이내 | 3주 이내 | 월간 보고서 | 월간 보고서 |
질문 25개 표시 중
질문에 답하는 AI에는 Hoqo Scan 또는 Hoqo Guard를, 환불·이메일 발송·기록 업데이트 등을 실행하는 에이전트에는 Pro 플랜을 권장합니다. 일회성 진단에는 Scan, 변경이 잦아 매달 검증이 필요하다면 Guard를 선택하세요. 고민된다면 에이전트의 용도를 알려 주세요. 적합한 플랜을 추천해 드립니다.
에이전트 1개를 1개 언어로 약 1시간 테스트합니다. 발견된 문제의 수와 심각도 요약, 그중 1건에 대한 간단한 설명을 보내드립니다. 재현 절차와 수정 방법은 유료 Scan에서 제공합니다. 제한된 범위의 점검으로, 문제가 없음을 보장하지 않습니다. 매달 3팀까지 신청할 수 있습니다.
Nothing is charged when you send a request. Once we agree on the scope, we send you a secure Stripe link to pay by card, or an invoice if you prefer. Testing starts once payment is received.
Hoqo Scan과 Hoqo Guard에는 1개 언어, Scan Pro와 Guard Pro에는 3개 언어가 포함됩니다. 언어를 추가할 수 있으며 기본 포함 언어와 합해 에이전트당 최대 6개 언어까지 지원합니다. 추가 요금은 Scan 플랜의 경우 언어당 +$1,500, Guard 플랜의 경우 언어당 월 +$800입니다. 공식 지원 언어나 대화에서 상당한 비중을 차지하는 언어를 대상으로 하며, 테스트 시작 전에 합의합니다.
주문 조회, 환불, 이메일 발송, CRM 업데이트처럼 에이전트가 대화 외에 실행할 수 있는 기능을 뜻합니다. Hoqo Scan과 Hoqo Guard에서는 최대 3개를 개별적으로 테스트합니다. Scan Pro와 Guard Pro에서는 최대 10개를 대상으로 여러 도구를 연계한 공격도 검증합니다. 한도를 초과하면 별도 견적을 드립니다.
아니요. Guard로 바로 시작할 수 있습니다. Hoqo Guard의 첫 달에는 Hoqo Scan의 전체 내용이, Guard Pro의 첫 달에는 Scan Pro의 전체 내용이 포함됩니다.
Yes. Hoqo Guard and Guard Pro start with a minimum of 3 months, paid upfront once the scope is agreed ($7,500 for Hoqo Guard, $16,500 for Guard Pro, before any extra languages). After that, they continue month to month, billed monthly. After the first 3 months, you can cancel with 30 days' written notice.
Yes. You can move from Hoqo Scan to Scan Pro within one week of your Scan order, and pay only the difference in price. You can start Hoqo Guard or Guard Pro after a Scan at any time, and we take one month's fee off, since you've already had the initial test.
If we find out while agreeing on the scope, you don't pay anything. If testing can't continue after it has started, we estimate the work already done and refund the rest.
Hoqo도 자동 도구를 사용합니다. 여기에 에이전트의 도구와 업무 규칙에 맞춰 설계한 공격을 더해 합의한 모든 언어로 검증합니다. 실제로 발생한 영향을 확인하고 구체적인 수정 가이드를 제공한 뒤 재테스트까지 진행합니다.
OpenAI, Anthropic, 자체 백엔드 등으로 구축한 API 접근 가능 에이전트를 지원합니다. Intercom, Zendesk, Chatbase, Voiceflow 같은 노코드 도구로 만든 챗봇도 웹 채팅이나 미리보기로 테스트할 수 있습니다. 음성 봇이나 LINE·Slack·WhatsApp·이메일 봇은 개별 검토가 필요하므로 먼저 문의해 주세요.
일반적으로 에이전트의 테스트 계정이나 스테이징 환경 링크, 실행 가능한 기능에 대한 간단한 설명이 필요합니다. 테스트 전에 범위를 서면으로 합의하고, 기밀 정보 공유 전에 NDA를 체결합니다.
가능하면 테스트 환경이나 챗봇의 복사본·미리보기를 사용합니다. 운영 환경에서 테스트해야 한다면 테스트 계정, 진행 시간대, 사용 금액 한도를 정합니다. 실제 환불이나 고객 이메일 발송처럼 되돌릴 수 없는 작업은 하지 않습니다.
네. 스테이징 환경이나 테스트 환경에서 검증할 수 있습니다. 실제 사용자가 이용하기 전에는 일반적으로 문제를 수정하기가 더 쉽습니다.
테스트 범위 합의 후 최대 3주입니다. 에이전트의 도구, 데이터, 언어에 맞춰 공격의 상당 부분을 개별적으로 설계하므로 자동 스캔보다 시간이 걸립니다. 이를 통해 스캔 도구가 놓치는 문제도 찾습니다. 치명적인 문제가 확인되면 최종 보고서를 기다리지 않고 확인한 영업일 내에 알려 드립니다. 재테스트는 고객 팀에서 수정을 마친 후 진행합니다.
수정은 고객 팀에서 진행합니다. Hoqo는 각 문제에 대해 시스템 프롬프트 변경, 안전장치 규칙 조정, 권한 설정 등 구체적인 수정 가이드를 제공합니다. 고객의 코드는 직접 변경하지 않습니다. 수정 후 같은 공격을 다시 실행해 효과를 확인합니다.
최종 보고서를 기다리지 않고 문제를 확인한 영업일 내에 이메일로 알려 드립니다. 고객 팀에서 바로 수정을 시작할 수 있도록 합니다.
No test can prove that. A passed retest means the attacks we ran no longer worked, at that time and within the agreed scope. New techniques appear all the time, which is why Hoqo Guard keeps testing every month.
Yes. After testing, we can provide a letter that states what we tested, when, and a summary of the results, for your customers' or auditors' security reviews. It describes the testing we did. It is not a guarantee that your agent is secure.
Findings go to you and no one else. We test only within the agreed scope, and the data you share with us is deleted within 30 days after the engagement ends. See Security & data handling for details.
Yes, we use automated scripts and AI models to generate attacks and review responses. We use the providers' business APIs, under terms that do not use the data for model training. See Security & data handling for details.
Yes. We sign an NDA before you share anything sensitive, and we never publish your findings or name you as a client without your written permission.
창업자 Ryoya Kubo가 모든 진단의 범위를 정하고 테스트를 실시하며, 발견된 문제를 모두 검토합니다. 영어·일본어·한국어 외의 언어는 NDA를 체결한 원어민 파트너가 검증을 돕습니다.
이메일로 소통합니다. 일본 시간 기준 1영업일 이내에 답변드리며, 보고서 설명도 이메일로 진행합니다.
아니요. Hoqo는 독립적인 서비스입니다. OWASP나 MITRE와 제휴 관계가 없으며, 두 단체의 공식 추천이나 인증도 받지 않았습니다. 발견된 문제를 설명하고 분류하는 데 해당 프레임워크를 사용합니다.
무료 점검
AI 에이전트에 대해 간단히 알려 주세요. 1영업일 이내에 답변드리고 테스트 범위를 협의합니다. 범위에 합의하기 전에는 테스트를 진행하지 않습니다.
접수 완료
로 1영업일 이내에 답장드립니다. 메일이 보이지 않으면 스팸함도 확인해 주세요.
다음 단계
HOQO · LEGAL
Effective date: November 5, 2026
These Terms of Service ("Terms") apply to the Hoqo website and to the services provided by Ryoya Kubo, a sole proprietor based in Japan, trading as Hoqo ("Hoqo", "we", "us"). By requesting a free check or ordering a plan, you agree to these Terms on behalf of yourself and the organization you represent ("you").
Hoqo tests AI agents and chatbots for security weaknesses ("red teaming"). We offer a free check and paid plans (Hoqo Scan, Scan Pro, Hoqo Guard and Guard Pro). For paid plans, the exact scope, deliverables, schedule and fees are set out in a written order or statement of work ("Order"). If an Order conflicts with these Terms, the Order applies.
The free check is a short, limited review of a few key risks. It is not a full test, and you are under no obligation to buy anything afterwards. We may decline any request.
"Business day" means a weekday that is not a public holiday in Japan, based on Japan Standard Time.
You confirm that you own the AI system to be tested, or that you have the owner's permission to have it tested, and that you have the authority to agree to these Terms.
Security testing can cause unexpected behavior, errors, extra usage costs (for example, AI model or API fees) or temporary disruption. We take reasonable care to avoid this and to stay within the agreed scope, and you accept these risks for testing performed within that scope.
Testing is a point-in-time assessment of the agreed scope. A test that finds no issues does not mean your system is secure, and we cannot guarantee that every weakness will be found or that a fix will prevent future attacks. AI systems and attack techniques change over time.
We keep your confidential information, including your system details, data, findings and reports, confidential, and use it only to provide the services. We will sign an NDA on request before you share anything sensitive. We will not publish your findings or name you as a client without your written permission. Where we work with a native-speaking partner for a language, that partner is bound by a confidentiality agreement.
You keep all rights to your systems and data. You may use our reports freely within your organization. We keep the rights to our own methods, tools and general know-how, including the attack techniques we develop during testing. We may keep and use those techniques, and results with anything that identifies you, your systems or your users removed, to improve our testing.
To the maximum extent permitted by law, our total liability arising from the services is limited to the fees you paid us in the 12 months before the claim, and we are not liable for indirect or consequential losses, such as lost profits or lost data. Nothing in these Terms limits liability that cannot be limited under applicable law, including liability for intentional misconduct or gross negligence.
Either party may end an Order if the other party seriously breaches these Terms and does not fix the breach within 14 days of notice. Sections 5, 6, 8 and 9 continue to apply after the services end.
Hoqo is independent and is not affiliated with, endorsed by or certified by OWASP or MITRE. We refer to their frameworks only to describe and map our findings.
These Terms are governed by the laws of Japan. The Fukuoka District Court has exclusive jurisdiction over any dispute, unless the Order says otherwise.
We may update these Terms from time to time. The effective date at the top shows when they last changed. Changes do not affect an Order already signed unless both parties agree.
Ryoya Kubo (Hoqo)
1-8-23 Akasaka, Chuo-ku, Fukuoka 810-0042, Japan
hello@hoqo.ai
END OF TERMS OF SERVICE
HOQO · LEGAL
Effective date: November 5, 2026
This Privacy Policy explains how Hoqo, operated by Ryoya Kubo, a sole proprietor based in Japan ("Hoqo", "we", "us"), collects and uses personal information when you visit our website, request a free check, or work with us.
Please do not send us passwords, API keys or customer data through our website forms. We agree on a safe way to share test access once the scope is confirmed.
We do not sell your personal information.
Testing an AI agent can bring us into contact with personal information about your customers, such as names or email addresses that appear in test conversations. We protect it in the same way as your own information, and more strictly:
j••••@•••••.com.Where the EU or UK GDPR applies, we process personal information to take steps at your request before entering into a contract and to perform that contract, for our legitimate interests in running and improving our business, and to comply with legal obligations.
Our service providers may use personal information only to provide their services to us. We share only what each of them needs, and we do not allow them to use it for their own purposes, including training AI models.
Hoqo is based in Japan, and our service providers may process information in other countries. When we transfer personal information across borders, we take the steps required by Japan's Act on the Protection of Personal Information and, where applicable, the GDPR, such as standard contractual clauses.
We use reasonable technical and organizational measures to protect personal information, such as full-disk encryption, two-factor authentication on all accounts, an encrypted password manager, and limiting access to the people who need it.
Depending on where you live, you may have the right to access, correct or delete your personal information, to object to or restrict how we use it, to receive a copy of it, and to withdraw consent. To make a request, email hello@hoqo.ai. You can also complain to your local data protection authority or, in Japan, to the Personal Information Protection Commission.
We do not use cookies for advertising or tracking. We measure visits with Cloudflare Web Analytics, which does not use cookies or collect personal identifiers. To protect our forms from spam, we use Cloudflare Turnstile.
Our services are for businesses and are not directed at children.
We may update this policy from time to time. The effective date at the top shows when it last changed.
Ryoya Kubo (Hoqo)
1-8-23 Akasaka, Chuo-ku, Fukuoka 810-0042, Japan
hello@hoqo.ai
END OF PRIVACY POLICY
HOQO · TRUST
Last updated: November 5, 2026
Testing an AI agent means handling sensitive things: access to your systems, conversation logs and, sometimes, the weaknesses we find. This page explains how Hoqo handles them. Your Order or NDA can add stricter terms, and when it does, those apply.
In order of preference: your test environment, a copy or preview of your bot, or, if neither is possible, your live agent with extra safeguards: test accounts, a set time window, a spending limit, and no irreversible actions such as real refunds, payments or emails to your customers.
We use automated attack scripts and AI models to generate attacks and review responses. When we send your agent's replies to an AI provider, we use the provider's business API, not consumer chat apps, under terms that do not use the data for model training. We share the current list of providers on request and name them in each Order.
Before anything is sent to an AI provider, we remove personal information about you and your customers wherever possible. Real customer data that appears during testing is never sent on to train or improve any AI model.
Our devices use full-disk encryption, and every account we use for Hoqo has two-factor authentication turned on. Hoqo is a one-person business, so the number of people with access to your data is small by design.
If you have a security question, or think something went wrong, email hello@hoqo.ai. You will hear back within one business day.
END OF SECURITY & DATA HANDLING