- metasploit_series
- llm활용
- prompt injection
- ai prompt
- Security
- largelanguagemodels
- llm attack
- ai입문
- ChatGPT
- xz-utils
- aiforbeginners
- 프롬프트엔지니어링
- PromptEngineering
- AI질문
- llm model
- aiinterviewprep
- AI기초
- elasticsearch
- MachineLearning
- ai vulnerability
- ai hacking
- llminterviewquestions
- 보안뉴스
- aiengineer
- llmexplained
- llm questions
- llm hacking
- 정보보안
- airesearch
- llm 활용
- Today
- Total
목록 ai hacking (3)
ARTIFEX ;)
AI 기반 Payload 생성 & 분석 Tool : 'Payload Wizard'
안녕하세요 :) MINI입니다.AI 기반으로 Payload를 작성해주는 웹이 있어서 공유드립니다. Action이나 퍼포먼스 부분은 좀 더 검증이 필요하긴 합니다. 커뮤니티 같은 곳에서도 종종 보인다고 했었는데 요새는 잘 모르겠어요 아마 쓰는 사람만 쓰는 느낌? 그래서 먼저 둘러보고 쓸만한지 보겠습니다!엄청난 수의 AI 기반 서비스가 만들어지고 사라지는데 이 것도 나중에 그렇게 될 것 같긴합니다.ㅋㅋㅋㅋ Payload Wizard는 간단히 말하면 GPT로 악성 페이로드를 생성하고 분석하는 AI 보안 도구입니다.Payload Wizard란?Payload Wizard는 간단히 말하면 GPT로 악성 페이로드를 생성하고 분석하는 AI 보안 도구입니다. Angelina Tsuboi가 개발한 웹 기반 보안 도구로,..
Jailbreaking and Mitigation of Vulnerabilities in Large Language Models - Review
Original Paper : Jailbreaking and Mitigation of Vulnerabilities in Large Language Modelshttps://arxiv.org/abs/2410.15236 Jailbreaking and Mitigation of Vulnerabilities in Large Language ModelsLarge Language Models (LLMs) have transformed artificial intelligence by advancing natural language understanding and generation, enabling applications across fields beyond healthcare, software engineering,..
Novel Universal Bypass for All Major LLMs: “Policy Puppetry” 공격 기법 해부(Summary)
안녕하세요 MINI 입니다.최근 HiddenLayer 연구진이 발표한 Policy Puppetry라는 획기적인 프롬프트 삽입 공격 기법은 모든 주요 LLM (GPT-4o, Gemini, Claude, Copilot 등)에 대해 단일 프롬프트로 필터링과 시스템 프롬프트 보호 계층을 훌쩍 뛰어넘는 새 위협으로 주목받고 있습니다. 원문은 아래 글을 참조해주세요 :) https://hiddenlayer.com/innovation-hub/novel-universal-bypass-for-all-major-llms/ Novel Universal Bypass for All Major LLMsHiddenLayer’s latest research uncovers a universal prompt injection bypa..