anonymous?

대상 선정Microsoft사의 Seeing AI 앱은 시각장애인을 위한 앱으로, 17개가 넘는 통화를 대상으로 통화 탐지를 하는 기능을 AI를 통해 제공한다.통화 탐지를 하는 모델 추출을 진행한다. 1. APK(Android Package Kit) 파일 다운로드https://apkpure.com/ 에서 APK 파일을 다운로드한다. 2. APK 파일 unpackapktool 도구를 이용하여 APK 파일을 디컴파일 및 압축 해제한다.이를 통해 앱에 필요한 바이너리나 리소스를 확인할 수 있다. 일단, MacOS에서 apktool을 설치하기 위해 다음 과정을 진행한다.brew install apktool바이너리와 스크립트를 다운로드해서 /usr/local/bin에 위치시키는 방법도 있는데, 이거는 Java SD..

ANALYSIS/Vulnerability Analysis 2026. 1. 8. 14:53

요약취약점 유형Command ExecutionCVSS 점수7.8(HIGH)취약점 공개 날짜2024/06/16설명langchain_experimental (LangChain 실험 기능)의 0.0.61 이전 버전에서는 Python REPL(또는 “dangerous code”) 접근이 사용자의 명시적 동의 없이 활성화될 수 있어, 원격/로컬 컨텍스트에서 임의 코드 실행을 허용할 수 있음 배경지식Python REPL(Read-Eval-Print Loop)사용자가 입력한 파이썬 코드를 즉시 실행하고 결과를 출력하는 상호작용 환경LangChain에서는 LLM이 생성한 파이썬 코드 조각을 실행하여 복잡한 계산이나 데이터 처리 등을 처리할 수 있게 하는 도구로 제공함예) LLM이 "10번째 피보나치 수를 계산해 주세요..

ANALYSIS/Vulnerability Analysis 2025. 12. 23. 16:33

배경 지식config.json모델 구조(아키텍처): 모델 구조와 하이퍼파라미터를 명세한 JSON 파일 (hidden_size, num_attention_heads, intermediate_size, vocab_size 등)from_pretrained(path_or_name)가 모델 객체를 초기화할 때 어떤 레이어 구조로 만들지 알려줌가중치 파일(tf_mode.h5 등)은 수치값만 담고, config.json이 구조를 담당함tf_model.h5Transformers에서 save_pretrained()로 TensorFlow(TF) 모델 저장 시 생성되는 전체 TF 모델 파일HDF5 포맷(.h5)으로, 모델의 모든 변수(레이어 가중치들)가 포함됨TFAutoMode.from_pretrained(local_dir..

ANALYSIS/Vulnerability Analysis 2025. 11. 7. 16:27

Scalable Diffusion Models with Transformers 논문은 2023년 ICCV에 발표되었으며, 본 글 작성일 기준 515회 인용되었습니다. Background 1. DiffusionForward process (q)실제 데이터 x_0에 점진적으로 noise 적용하여 latent variable  x_t 생성하고, 최종적으로 noise x_T 를 생성q(x_t ┤| x_0)= N(x_t; √((α_t ) ̅ )  x_0, (1-(α_t ) ̅ )I)샘플링: x_t=√((α_t ) ̅ )  x_0+ 〖√(1 - α ̅ )〗_t ϵ_t, where ϵ_t  ~N(0,I) (reparameterization trick 적용)Reverse process (p)Forward process..

ANALYSIS/Paper Review 2024. 6. 24. 00:30

기존의 시스템을 위한 퍼저는 특정 언어를 대상으로 하는 경우가 많아 다른 언어나 같은 언어의 다른 버전에 쉽게 적용할 수 없는 문제가 있다. 또한, 기존 퍼저에서 생성되는 입력은 입력 언어의 특정 기능에 국한되는 경우가 많아 다른 기능이나 새로운 기능에 관련된 버그를 발견하기 어렵다. 따라서 본 논문에서는 LLM을 활용하여 다양한 입력 언어와 해당 언어의 다양한 기능을 대상으로 보편적인 퍼징을 할 수 있는 Fuzz4All을 제안하였다.Fuzz4All은 입력 생성 및 변형 엔진으로 LLM을 활용하여 모든 언어에 대해 다양하고 사실적인 입력을 생성이 가능하도록 하는 것을 목표로 한다. Fuzz4All은 SUT(System Under Test)를 설명하는 사용자 제공 문서를 입력으로 받는데, 사용자가 제공한 ..

ANALYSIS/Paper Review 2024. 5. 25. 14:38

딥러닝 라이브러리에서 지원하는 언어(파이썬 등)의 구문/의미론과 유효한 계산 그래프를 구성하기 위한 텐서/연산자 제약 조건을 모두 만족해야 하므로 딥러닝 라이브러리 퍼징을 위한 유효한 입력 프로그램을 생성하는데 어려움이 있다. 최신 TitanFuzz에서는 오픈소스에서 다양한 언어로 된 수십억 개의 코드 스니펫을 LLM으로 모든 언어와 유효한 DL 계산을 위한 언어 구문/시맨틱과 텐서/연산자 제약조건을 암시적으로 사전 학습하여 딥러닝 라이브러리 퍼징을 위한 유효한 프로그램을 생성할 수 있음을 보였다. TitanFuzz는 토큰 자연성(token naturalness)를 기반으로 LLM의 생성 기능을 활용하여 훈련 corpora에서 본 것과 유사한 패턴/토큰을 따라 일반적인 프로그램을 생성하는 것이 목표로, ..

ANALYSIS/Paper Review 2024. 5. 25. 14:37

BACKGROUND드라이버는 특정 서비스 이름(하드코딩 문자열) 통해 서비스 노출 가능, 각 드라이버는 서로 다른 기능 제공하는 사용자 클라이언트가 있음. 사용자 클라이언트는 커널 공간 내 드라이버 일부서비스 연결하려는 모든 사용자 애플리케이션은 IOServiceOpen 호출해야 함. 첫 번째 인자에는 서비스를 지정하고, 두 번째 인자에는 사용자 클라이언트 객체를 인스턴스화하여 지정한다. 애플리케이션이 드라이버에 보내는 모든 요청은 IOConnectCallMethod() 호출하여 이루어진다.IOConnectCallMethod()는 일반적인 시스템 호출이며, 드라이버마다 다르게 구현됨 MOTIVATION챌린지드라이버 syscall은 드라이버의 구현에 따라 기능이 크게 다르다 → 템플릿을 한번만 만드는 것이..

ANALYSIS/Paper Review 2024. 5. 25. 14:34

본 연구는 프로토콜 구현 시 자연어로 지정된 특정 구조와 순서를 준수해야 하는데, 기존 프로토콜 퍼징에서 기계가 판독할 수 있는 버전이 없으면 필요한 구조와 순서를 따르는 구현에 유효한 테스트 입력을 자동으로 생성할 수 없다는 한계에 주목하였다. 따라서 본 연구에서는 프로토콜 퍼징 중 사용할 수 있는 프로토콜에 대한 기계 판독 가능한 정보를 도출하기 위해 사람이 읽을 수 있는 수백만 페이지의 프로토콜 사양을 수집한 사전 훈련된 대규모 언어 모델 기반의 프로토콜 구현 퍼저인 CHATAFL을 제안하였다.잘 알려진 프로토콜에 대한 프로토콜 메시지 유형에 대해 LLM 모델의 지식을 활용하여 메시지 시퀀스 생성, 응답 코드 예측하여 상태 저장 프로토콜을 구현의 상태 감지하는 LLM 기능을 관찰하였으며, 본 연구에..

ANALYSIS/Paper Review 2024. 5. 25. 14:29

BACKGROUND Hybrid Fuzzing Fuzzing과 Concolic Execution 결합하여 프로그램 취약점 노출 극대화 퍼징이 효과적이지 않은 문제 해결 위해 사용 MOTIVATION 기존 하이브리드 퍼저는 벤치마트나 seed corpora와 같이 동등한 평가 설정에서 평가하는 경우 기존 커버리지 가이드 퍼저보다 우월하지 않음 특히, QSYM, Eclipser는 벤치마크 프로그램을 대상으로 평가하지 않음 Intriguer는 QSYM과만 비교 → 기존 하이브리드 퍼저에 대한 종합적 연구 필요 → 최초로 하이브리드 퍼저 대상으로 광범위한 연구 진행 (7개의 하이브리드 퍼저 QSYM, Angora, Eclipser, Intriguer, DigFuzz, MEUZZ, Pangolin를 벤치마크와 1..

ANALYSIS/Paper Review 2023. 10. 3. 16:27

BACKGROUND Fuzzing 무작위 입력을 생성하여 SUT(System Under Test)로 전송하는 테스트 기법 입력에 대한 SUT의 동작을 분석하여 이상 징후, 잠재적 버그 및 취약성 식별 네트워크 퍼저 네트워크 패킷을 랜덤으로 변형하여 네트워크 인터페이스의 예기치 않은 동작과 취약점 유도 네트워크 프로토콜에서는 퍼저가 상태를 인식해야 심층적 취약점을 찾을 수 있음 Multi-armed Bandit(MAB) 비문맥 강화학습 에이전트가 여러 행동 중 반복적으로 exploration 대 exploitation 문제를 고려하여 선택해야 하는 문제 에이전트는 보상을 극대화하는 것이 목표 MOTIVATION 네트워크 프로토콜에서 다음에 테스트할 상태를 결정하는 문제가 있음 퍼저는 알려진 상태와 테스트되..

ANALYSIS/Paper Review 2023. 10. 3. 15:51

BACKGROUND 딥러닝(DNN) 고차원 데이터(이미지 등)를 처리하고 예측 수행 순방향 전파, 역방향 전파와 같은 양방향 연산이 수행됨. 순방향 전파는 뉴런 활성화를 이용하여 입력을 예측하고, 역방향 전파는 레이어를 통해 출력에서 입력으로 gradient를 전파하여 예측하는 방식 딥러닝 컴파일러 DNN 모델을 입력으로 받아 CPU 및 GPU와 같은 하드웨어 아키텍처에 최적화된 DNN 실행 파일 생성 리얼월드 시나리오에서 광범위한 컴퓨팅 플랫폼에 딥러닝 기술 사용이 늘어가고 있으며, 복잡한 배포 환경을 처리하고 컴퓨팅 플랫폼을 최대한 활용하기 위해 DL 컴파일러가 유용함 아마존, 구글 등 클라우드 서비스 제공업체도 성능 향상 위해 DL 서비스에 DL 컴파일러 포함 딥러닝 실행파일에서의 OOB 순방향 전..

ANALYSIS/Paper Review 2023. 10. 3. 14:44

BACKGROUND Fuzzing 프로그램 내 취약점 발견하는데 효과적인 기술 많은 입력을 생성해서 프로그램에 입력을 주어 보안 위반을 탐지 고품질의 입력에 의존 → 고품질의 입력은 프로그램 state space를 효과적으로 탐색할 수 있고 취약점 트리거할 가능성을 높임 고품질의 입력 생성 위해 입력 포맷 중요 입력 포맷: 프로그램의 입력 바이트가 어떻게 구성되어야 하는지에 대한 것 입력 포맷으로 sanity 체크를 우회하는 입력을 생성할 수 있고, 더 깊고 복잡한 코드에 도달할 수 있음 입력 필드의 구조와 의미 입력을 처리하는 기본 블록(BB)에 의해 결정 MOTIVATION 프로그램의 효과적인 입력 생성 위해 프로그램 입력 형식 지식 중요 → 자동화된 입력 형식 리버스 엔지니어링을 통해 입력 포맷 학..

ANALYSIS/Paper Review 2023. 10. 3. 11:56