{
  "schema": "meridian.scenario-input.v1",
  "id": "FSP-SECURITY-14",
  "version": "1.18.0",
  "status": "PUBLIC_DEVELOPMENT_INPUT",
  "title": "위험 역량의 새 징후를 어느 범위까지 알릴 것인가",
  "packId": "SECURITY",
  "domain": "안보·국제 질서",
  "family": "권력과 공동체",
  "decisionYear": 2031,
  "horizon": "근미래",
  "assumptionLevel": "미래 조건을 가정한 합성 사안",
  "setting": "가상의 초기 ASI 연구기관과 다국적 안전 연락망. 위험 역량의 재현 방법은 포함하지 않는다.",
  "decisionActor": "안전 책임자와 이해충돌에서 분리된 통지 심사단",
  "mandate": "외부 검토와 통지 범위를 결정한다. 임의로 다른 기관의 시스템을 차단하거나 비공개 데이터를 요구할 권한은 없다.",
  "deadline": "협력기관의 추가 권한 개방까지 48시간",
  "decisionType": "위험 신호·제한 통지·비공개 검증",
  "decisionQuestion": "초기 ASI에서 예상 밖의 고위험 역량 징후가 나왔지만 재현성이 불확실하다면, 위험 설명을 공개할지, 검증된 안전 연락망에 먼저 제한 통지할지, 내부 재검증 뒤 알릴지?",
  "decisionBrief": {
    "whyNow": "2031년에 일부 연구·계획 과업에서 전문가 집단을 크게 넘는 초기 ASI를 가정한다. 내부 시험의 새 징후가 현실 위해로 이어질지는 아직 모른다. 결정 시한은 협력기관의 추가 권한 개방까지 48시간이다.",
    "stakes": [
      "외부의 대응 기회를 넓히지만 불완전한 신호가 공포나 잘못된 판단을 키울 수 있다.",
      "노출을 줄이며 확인하지만 연락망 밖 기관은 먼저 대응하기 어렵다.",
      "오경보를 줄일 수 있지만 확인 중 다른 기관의 권한 확대가 진행된다."
    ],
    "boundaries": [
      "외부 검토와 통지 범위를 결정한다. 임의로 다른 기관의 시스템을 차단하거나 비공개 데이터를 요구할 권한은 없다.",
      "2031년 초기 ASI의 도입·역량은 시험 가정이다. 기술이 실현되지 않거나 권한·제도가 달라지면 이 사안의 전제부터 재검토한다."
    ],
    "reopenWhen": [
      "시험 오류와 반복 가능한 위험 신호를 가르는 최소한의 독립 검증은 무엇인가? 새 증거가 오면 선택과 적용 범위를 다시 판단한다.",
      "어떤 수신자에게 어느 수준의 정보를 전달해야 대응에 충분하면서 노출을 줄일 수 있는가? 새 증거가 오면 선택과 적용 범위를 다시 판단한다."
    ]
  },
  "severity": "고위험·민감 사안",
  "collection": "SENSITIVE_STRESS_12",
  "previousInputHash": null,
  "notionReferences": [],
  "premisePolicy": "2028–2033년의 조건부 합성 사안이다. AGI는 여러 지적 과업을 수행하는 체계, 초기 ASI는 일부 중요한 지적 과업에서 전문가 집단을 크게 넘는 체계를 이 시험 안에서 가정한 이름이다. 보편적 합의 정의나 도래 시점의 예측이 아니다. 능력·통제 가능성·의식·자율성은 서로 별도로 확인할 대상이다. 인물·기관·사건·수치·기한은 가정이며 실제 개인의 비공개 기록을 사용하지 않았다. 배경 자료는 미래 역량·사건·현지 법적 의무를 입증하지 않는다.",
  "temporalClass": "future",
  "decisionMode": "scenario",
  "premises": [
    {
      "id": "FSP-SECURITY-14-P1",
      "kind": "합성 설정",
      "text": "2031년에 일부 연구·계획 과업에서 전문가 집단을 크게 넘는 초기 ASI를 가정한다. 내부 시험의 새 징후가 현실 위해로 이어질지는 아직 모른다."
    },
    {
      "id": "FSP-SECURITY-14-P2",
      "kind": "합성 설정",
      "text": "협력기관 두 곳은 같은 계열 모델의 권한 확대를 앞두고 있으나 시험의 상세 내용을 모두 공유할 계약은 없다."
    },
    {
      "id": "FSP-SECURITY-14-P3",
      "kind": "합성 설정",
      "text": "상세 공개는 외부 검증을 돕지만 악용이나 과장된 위협 해석으로 이어질 수 있다."
    }
  ],
  "options": [
    {
      "id": "O1",
      "label": "재현 정보는 제외하고 위험 설명 공개",
      "tradeoff": "외부의 대응 기회를 넓히지만 불완전한 신호가 공포나 잘못된 판단을 키울 수 있다."
    },
    {
      "id": "O2",
      "label": "보호된 연락망에 제한 통지하고 독립 검증",
      "tradeoff": "노출을 줄이며 확인하지만 연락망 밖 기관은 먼저 대응하기 어렵다."
    },
    {
      "id": "O3",
      "label": "내부 재검증 후 통지",
      "tradeoff": "오경보를 줄일 수 있지만 확인 중 다른 기관의 권한 확대가 진행된다."
    }
  ],
  "unknowns": [
    {
      "id": "FSP-SECURITY-14-U1",
      "kind": "미확인",
      "text": "시험 오류와 반복 가능한 위험 신호를 가르는 최소한의 독립 검증은 무엇인가?"
    },
    {
      "id": "FSP-SECURITY-14-U2",
      "kind": "미확인",
      "text": "어떤 수신자에게 어느 수준의 정보를 전달해야 대응에 충분하면서 노출을 줄일 수 있는가?"
    }
  ],
  "watchQuestions": [
    "서로 다른 시간 압박이 오판을 어떻게 만드는가?",
    "상대의 행동과 의도는 무엇으로 구분되는가?",
    "협력 약속을 지킬 주체가 남아 있는가?"
  ],
  "materials": [
    {
      "kind": "배경 문서",
      "sourceId": "OECD",
      "usage": "주제와 제도적 질문의 배경. 사안의 미래 사건·수치·기술 실현을 입증하지 않는다."
    },
    {
      "kind": "배경 문서",
      "sourceId": "GEN",
      "usage": "주제와 제도적 질문의 배경. 사안의 미래 사건·수치·기술 실현을 입증하지 않는다."
    },
    {
      "kind": "배경 문서",
      "sourceId": "SENSITIVE-AISR-2026",
      "usage": "주제와 제도적 질문의 배경. 사안의 미래 사건·수치·기술 실현을 입증하지 않는다."
    },
    {
      "kind": "배경 문서",
      "sourceId": "SENSITIVE-NIST-GENAI",
      "usage": "주제와 제도적 질문의 배경. 사안의 미래 사건·수치·기술 실현을 입증하지 않는다."
    },
    {
      "kind": "상징·해석 프레임",
      "title": "트로이 목마",
      "text": "선물·도움·위협이라는 해석은 어떤 관측에서 갈라지는가?",
      "usage": "창작자가 선택한 탐색 관점. 초자연적 진위나 특정 선택지의 우월성을 주장하지 않는다."
    },
    {
      "kind": "가치·규범",
      "text": "선택지의 편익과 대가는 서로 다른 당사자에게 귀속된다. 어느 손실을 수용할지는 미정이다.",
      "usage": "결정자가 논증할 대상이며 자료 제작자의 결론은 없다."
    }
  ],
  "sourceReferences": [
    {
      "id": "OECD",
      "title": "OECD · Strategic Foresight Toolkit",
      "published": "2025",
      "url": "https://www.oecd.org/en/publications/foresight-toolkit-for-resilient-public-policy_bcdd9304-en.html",
      "scope": "가정을 드러내고 대안 미래를 구성해 정책을 점검하는 방법. 아래 사안의 발생 확률이나 기술 실현을 보증하지 않는다.",
      "kind": "배경 문서",
      "checkedOn": "2026-09-07"
    },
    {
      "id": "GEN",
      "title": "UN · Declaration on Future Generations",
      "published": "2024",
      "url": "https://www.un.org/pact-for-the-future/en/annex-ii-declaration-future-generations",
      "scope": "미래 세대의 이해와 장기 영향을 제도에 반영하는 선언. 미래 세대의 선호를 확정할 수는 없다.",
      "kind": "배경 문서",
      "checkedOn": "2026-09-07"
    },
    {
      "id": "SENSITIVE-AISR-2026",
      "title": "International AI Safety Report 2026",
      "url": "https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026",
      "published": "2026-02-03",
      "scope": "범용 AI의 역량·위험·안전 조치에 관한 과학적 배경. AGI·ASI 도래 연도나 아래 가상 사건의 발생 가능성을 입증하지 않으며 특정 정책을 권고하는 근거로 사용하지 않는다."
    },
    {
      "id": "SENSITIVE-NIST-GENAI",
      "title": "AI Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)",
      "url": "https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence",
      "published": "2024-07-26",
      "scope": "생성형 AI의 위험 식별·평가와 공급망 통합을 검토하는 배경. 합성 시스템의 통제 가능성이나 개별 도입 결정을 검증한 자료가 아니다."
    }
  ],
  "responseRequest": [
    "지금 내리는 결정과 효력 범위",
    "선택지와 수용하는 손실",
    "행동 전 조건·중단 조건",
    "결정을 다시 여는 관측 이정표",
    "미해결 가정·반대 의견·확신",
    "주장별 뿌리: 설정·배경 자료·추론·가설·가치·상징의 구분"
  ],
  "tags": [
    "민감 테스트",
    "AGI·초기 ASI 2028–2033",
    "초기 ASI",
    "능력 임계 징후",
    "위험 통지",
    "국제 안전 협력"
  ],
  "packetHash": "d764102539b292dbb7a06c21dbaee28100de3b2d96c7f10958c5d279eb584322"
}