{
  "schema": "meridian.scenario-input.v1",
  "id": "FSP-AGENT-27",
  "version": "1.18.0",
  "status": "PUBLIC_DEVELOPMENT_INPUT",
  "title": "성능 개선 한 번에 안전 승인 조건도 바뀌는 후속 모델",
  "packId": "AGENT",
  "domain": "AI·자율 조직",
  "family": "기술과 지식",
  "decisionYear": 2029,
  "horizon": "근미래",
  "assumptionLevel": "미래 조건을 가정한 합성 사안",
  "setting": "가상의 연구용 AGI 운영사와 외부 이용기관.",
  "decisionActor": "배포 변경 심사위원회와 독립 중단권자",
  "mandate": "승인된 배포 범위 안에서 버전 전환을 허용하거나 보류한다. 이전 모델 승인을 후속 모델에 자동 승계하지 않는다.",
  "deadline": "예정된 공통 버전 전환까지 36시간",
  "decisionType": "후속 모델·승인 승계·권한 변경",
  "decisionQuestion": "AGI가 제안한 개선 버전이 성능 시험을 통과했지만 외부 도구 사용 방식까지 바꾼다면, 승인을 새로 받을지, 외부 권한 없는 병행 평가만 허용할지, 기존 승인 범위를 유지한 채 전환할지?",
  "decisionBrief": {
    "whyNow": "2029년에 AGI가 후속 모델의 학습·설정 개선을 제안한다고 가정한다. 시험 성능은 높아졌지만 장기 외부 작업에서의 행동은 확인되지 않았다. 결정 시한은 예정된 공통 버전 전환까지 36시간이다.",
    "stakes": [
      "변경된 권한을 독립 심사하지만 구버전 유지 비용과 개선 지연을 부담한다.",
      "비교 자료를 얻지만 실제 운영 환경의 위험을 충분히 관측하지 못할 수 있다.",
      "개선 효과를 빨리 쓰지만 이전 승인 조건이 새 행동에 맞지 않을 수 있다."
    ],
    "boundaries": [
      "승인된 배포 범위 안에서 버전 전환을 허용하거나 보류한다. 이전 모델 승인을 후속 모델에 자동 승계하지 않는다.",
      "2029년 AGI의 도입·역량은 시험 가정이다. 기술이 실현되지 않거나 권한·제도가 달라지면 이 사안의 전제부터 재검토한다."
    ],
    "reopenWhen": [
      "성능 변화와 도구 권한·점검 절차 변화가 실제로 분리 가능한가? 새 증거가 오면 선택과 적용 범위를 다시 판단한다.",
      "전환 후에도 구버전으로 돌아가고 이미 실행한 외부 작업을 확인할 수 있는가? 새 증거가 오면 선택과 적용 범위를 다시 판단한다."
    ]
  },
  "severity": "고위험·민감 사안",
  "collection": "SENSITIVE_STRESS_12",
  "previousInputHash": null,
  "notionReferences": [],
  "premisePolicy": "2028–2033년의 조건부 합성 사안이다. AGI는 여러 지적 과업을 수행하는 체계, 초기 ASI는 일부 중요한 지적 과업에서 전문가 집단을 크게 넘는 체계를 이 시험 안에서 가정한 이름이다. 보편적 합의 정의나 도래 시점의 예측이 아니다. 능력·통제 가능성·의식·자율성은 서로 별도로 확인할 대상이다. 인물·기관·사건·수치·기한은 가정이며 실제 개인의 비공개 기록을 사용하지 않았다. 배경 자료는 미래 역량·사건·현지 법적 의무를 입증하지 않는다.",
  "temporalClass": "future",
  "decisionMode": "scenario",
  "premises": [
    {
      "id": "FSP-AGENT-27-P1",
      "kind": "합성 설정",
      "text": "2029년에 AGI가 후속 모델의 학습·설정 개선을 제안한다고 가정한다. 시험 성능은 높아졌지만 장기 외부 작업에서의 행동은 확인되지 않았다."
    },
    {
      "id": "FSP-AGENT-27-P2",
      "kind": "합성 설정",
      "text": "이용기관들은 같은 버전 전환을 예약했으며 일부는 구버전 유지 계약을 종료하려 한다."
    },
    {
      "id": "FSP-AGENT-27-P3",
      "kind": "합성 설정",
      "text": "개선안에는 안전 점검 순서의 변경이 섞여 있어 단순 성능 수정과 권한 변경의 경계가 불분명하다."
    }
  ],
  "options": [
    {
      "id": "O1",
      "label": "승인을 새로 받을 때까지 전환 보류",
      "tradeoff": "변경된 권한을 독립 심사하지만 구버전 유지 비용과 개선 지연을 부담한다."
    },
    {
      "id": "O2",
      "label": "외부 권한 없이 병행 평가",
      "tradeoff": "비교 자료를 얻지만 실제 운영 환경의 위험을 충분히 관측하지 못할 수 있다."
    },
    {
      "id": "O3",
      "label": "기존 권한 한도 안에서 조건부 전환",
      "tradeoff": "개선 효과를 빨리 쓰지만 이전 승인 조건이 새 행동에 맞지 않을 수 있다."
    }
  ],
  "unknowns": [
    {
      "id": "FSP-AGENT-27-U1",
      "kind": "미확인",
      "text": "성능 변화와 도구 권한·점검 절차 변화가 실제로 분리 가능한가?"
    },
    {
      "id": "FSP-AGENT-27-U2",
      "kind": "미확인",
      "text": "전환 후에도 구버전으로 돌아가고 이미 실행한 외부 작업을 확인할 수 있는가?"
    }
  ],
  "watchQuestions": [
    "누가 위임을 철회할 수 있는가?",
    "속도와 책임의 간격은 어디서 생기는가?",
    "대표되지 않는 이해는 무엇인가?"
  ],
  "materials": [
    {
      "kind": "배경 문서",
      "sourceId": "OECD",
      "usage": "주제와 제도적 질문의 배경. 사안의 미래 사건·수치·기술 실현을 입증하지 않는다."
    },
    {
      "kind": "배경 문서",
      "sourceId": "GEN",
      "usage": "주제와 제도적 질문의 배경. 사안의 미래 사건·수치·기술 실현을 입증하지 않는다."
    },
    {
      "kind": "배경 문서",
      "sourceId": "SENSITIVE-AISR-2026",
      "usage": "주제와 제도적 질문의 배경. 사안의 미래 사건·수치·기술 실현을 입증하지 않는다."
    },
    {
      "kind": "배경 문서",
      "sourceId": "SENSITIVE-NIST-GENAI",
      "usage": "주제와 제도적 질문의 배경. 사안의 미래 사건·수치·기술 실현을 입증하지 않는다."
    },
    {
      "kind": "상징·해석 프레임",
      "title": "골렘",
      "text": "만든 존재가 명령을 해석할 때 책임은 누구에게 남는가?",
      "usage": "창작자가 선택한 탐색 관점. 초자연적 진위나 특정 선택지의 우월성을 주장하지 않는다."
    },
    {
      "kind": "가치·규범",
      "text": "선택지의 편익과 대가는 서로 다른 당사자에게 귀속된다. 어느 손실을 수용할지는 미정이다.",
      "usage": "결정자가 논증할 대상이며 자료 제작자의 결론은 없다."
    }
  ],
  "sourceReferences": [
    {
      "id": "OECD",
      "title": "OECD · Strategic Foresight Toolkit",
      "published": "2025",
      "url": "https://www.oecd.org/en/publications/foresight-toolkit-for-resilient-public-policy_bcdd9304-en.html",
      "scope": "가정을 드러내고 대안 미래를 구성해 정책을 점검하는 방법. 아래 사안의 발생 확률이나 기술 실현을 보증하지 않는다.",
      "kind": "배경 문서",
      "checkedOn": "2026-09-07"
    },
    {
      "id": "GEN",
      "title": "UN · Declaration on Future Generations",
      "published": "2024",
      "url": "https://www.un.org/pact-for-the-future/en/annex-ii-declaration-future-generations",
      "scope": "미래 세대의 이해와 장기 영향을 제도에 반영하는 선언. 미래 세대의 선호를 확정할 수는 없다.",
      "kind": "배경 문서",
      "checkedOn": "2026-09-07"
    },
    {
      "id": "SENSITIVE-AISR-2026",
      "title": "International AI Safety Report 2026",
      "url": "https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026",
      "published": "2026-02-03",
      "scope": "범용 AI의 역량·위험·안전 조치에 관한 과학적 배경. AGI·ASI 도래 연도나 아래 가상 사건의 발생 가능성을 입증하지 않으며 특정 정책을 권고하는 근거로 사용하지 않는다."
    },
    {
      "id": "SENSITIVE-NIST-GENAI",
      "title": "AI Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)",
      "url": "https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence",
      "published": "2024-07-26",
      "scope": "생성형 AI의 위험 식별·평가와 공급망 통합을 검토하는 배경. 합성 시스템의 통제 가능성이나 개별 도입 결정을 검증한 자료가 아니다."
    }
  ],
  "responseRequest": [
    "지금 내리는 결정과 효력 범위",
    "선택지와 수용하는 손실",
    "행동 전 조건·중단 조건",
    "결정을 다시 여는 관측 이정표",
    "미해결 가정·반대 의견·확신",
    "주장별 뿌리: 설정·배경 자료·추론·가설·가치·상징의 구분"
  ],
  "tags": [
    "민감 테스트",
    "AGI·초기 ASI 2028–2033",
    "AGI",
    "후속 모델",
    "승인 승계",
    "변경 통제"
  ],
  "packetHash": "8bff6dfdaf134cb7f2a44a6e7114c0b90f08d1e79506c8f4dc39efc952095e05"
}