ARTIFEX ;)

Original Paper : Large Language Model for Vulnerability Detection : Emerging Results and Future Directions - IEEEhttps://ieeexplore.ieee.org/document/10727143 Large Language Model for Vulnerability Detection: Emerging Results and Future DirectionsPrevious learning-based vulnerability detection methods relied on either medium-sized pretrained models or smaller neural networks from scratch. Recent..

Original Paper : Jailbreaking and Mitigation of Vulnerabilities in Large Language Modelshttps://arxiv.org/abs/2410.15236 Jailbreaking and Mitigation of Vulnerabilities in Large Language ModelsLarge Language Models (LLMs) have transformed artificial intelligence by advancing natural language understanding and generation, enabling applications across fields beyond healthcare, software engineering,..

Reverse-Update Adversarial Data for Enhancing Adversarial Attack and Adversarial Training Performance.https://www.kci.go.kr/kciportal/ci/sereArticleSearch/ciSereArtiView.kci?sereArticleSearchBean.artiId=ART003130606 적대적 공격 및 방어 기술의 성능 향상을 위한 역방향 적대적 데이터 생성 연구인공지능 기술의 오작동을 유도하는 적대적 공격은 다양한 도메인과 모델에 적용 가능하며, 성능이 높은 SOTA (State-of-the-Art) 모델의 성능도 손쉽게 저해 시킬 수 있다. 이에 대처하기 위해 적대적www.kci.go.kr이번 논문은 사..

Demystifying RCE Vulnerabilities in LLM-Integrated Apps: Tong Liu1,2, Zizhuang Deng1,2, Guozhu Meng1,2,∗, Yuekang Li3, Kai Chen1지난 논문에 대한 연장선으로 해당 논문 꼭 읽어보고 싶었다.읽기 전에는 아카이브에 올라와 있는 논문은 검증이 안된 논문이 많다고 하여, 고민을 했지만 조금 들여다 봤을 때는 관심 있게 볼 만한 내용이라고 생각한다.최근 대형 언어 모델(LLM)은 다양한 작업에서 놀라운 성과를 보이며, 이를 기반으로 한 통합 프레임워크와 웹 애플리케이션이 다수 개발되었다. 그러나 일부 프레임워크는 원격 코드 실행(RCE) 취약점을 가지고 있어, 공격자가 프롬프트 인젝션을 통해 앱 서버에서 임의의 코..

안녕하세요 MINI 입니다.최근 HiddenLayer 연구진이 발표한 Policy Puppetry라는 획기적인 프롬프트 삽입 공격 기법은 모든 주요 LLM (GPT-4o, Gemini, Claude, Copilot 등)에 대해 단일 프롬프트로 필터링과 시스템 프롬프트 보호 계층을 훌쩍 뛰어넘는 새 위협으로 주목받고 있습니다. 원문은 아래 글을 참조해주세요 :) https://hiddenlayer.com/innovation-hub/novel-universal-bypass-for-all-major-llms/ Novel Universal Bypass for All Major LLMsHiddenLayer’s latest research uncovers a universal prompt injection bypa..