Pular para o conteúdo principal

SbD-ToE 4 AI Act: Playbook de Implementação

Visão Geral​

Este playbook mapeia requisitos do AI Act (Regulamento UE 2024/1689) para ações SbD-ToE práticas, focando-se nas obrigações técnicas dos sistemas de IA de risco elevado e dos modelos de finalidade geral (GPAI).

A resposta do Manual a cada obrigação (coberta, lacuna declarada ou fora de âmbito) está em «O que este Manual cobre e o que fica de fora».

Princípio: o SbD-ToE cobre a cibersegurança (Art. 15), o registo (Art. 12/19), a supervisão humana (Art. 14), a transparência do Art. 50, o acompanhamento pós-comercialização (Art. 72) e os incidentes graves (Art. 73). A exatidão e a solidez estão pendentes da ronda AISVS/SAIF do AppSec Core. Ficam fora de âmbito, com razão: a gestão de riscos (Art. 9), a governação de dados de treino (Art. 10), a gestão da qualidade (Art. 17), as especificidades da identificação biométrica, a qualificação jurídica (classificação de risco, papéis) e a avaliação da conformidade. Nestas, o Manual fornece evidência às equipas de ciência de dados, produto, jurídico e compliance.

Estrutura: Cada secção mostra:

  • AI Act requisito (artigo)
  • SbD-ToE capítulo/addon aplicável
  • O que fazer (ação concreta)
  • Evidência regulatória

📚 Recursos de Suporte: Para templates práticos e exemplos de implementação, consultar Exemplo-Playbook com toolchains, KPIs, RACI e relatórios de incidentes reutilizáveis para AI Act e outros frameworks.


Passo 0: Determinar papel e categoria de risco (pré-requisito)​

Antes de qualquer ação técnica, é necessário estabelecer o enquadramento jurídico - trabalho de compliance/jurídico, não de AppSec, mas que condiciona todo o playbook:

  1. Qual é o papel? Prestador (provider), responsável pela implantação (deployer), importador ou distribuidor (AI Act, art. 3.º, pontos 3, 4, 6 e 7). O grosso das obrigações técnicas recai sobre o prestador de sistemas de IA de risco elevado (art. 16.º).
  2. Qual a categoria de risco?
    • Inaceitável (Art. 5) → proibido; não há playbook técnico que o legitime.
    • Risco elevado (Art. 6, Anexos I/III) → aplica-se a generalidade deste playbook.
    • Determinados sistemas de IA (Art. 50 — interação direta com pessoas, conteúdos sintéticos, reconhecimento de emoções ou categorização biométrica, falsificações profundas) → obrigações de transparência, que se somam às do capítulo III quando o sistema é também de risco elevado (art. 50.º, n.º 6).
    • Restantes sistemas de IA → sem os requisitos do capítulo III; aplica-se, ainda assim, o Art. 4 (literacia no domínio da IA), dirigido aos prestadores e responsáveis pela implantação de sistemas de IA.
  3. É um modelo GPAI? Se sim, aplicam-se Art. 53 (com a exceção do n.º 2 para modelos lançados ao abrigo de licença gratuita e aberta sem risco sistémico) e Art. 55 (risco sistémico) - ver Fase 7.

⚠️ Saída do âmbito SbD-ToE: a classificação de risco e a qualificação de papéis são determinações jurídicas. O resultado declara-se por aplicação como contexto CTX-AIA-RE (ou só com o grau ART50, para sistemas abrangidos apenas pelo art. 50.º), com a qualificação jurídica anexada, e os pisos do contexto aplicam-se em qualquer nível L1–L3 (ver Requisitos aplicáveis — Quando se aplica).


Mapa Rápido: AI Act Art. → SbD-ToE​

✏️ Revisão 2026-09-27. Mapa alinhado com a matriz de cobertura do AI Act e com o contexto CTX-AIA-RE (pisos e requisitos acrescentados), sobre a camada agentic — REQ-AGN-* (Cap. 02), ARC-015 (Cap. 04), DEP-012..014 (Cap. 05), OPS-012..014 (Cap. 12), Policy 38 (mandates), Policy 39 (AI BOM).

AI Act ArtigoRequisitoCapítulo SbD-ToEAção Principal
4Literacia no domínio da IA (medidas para a promover — redação do Reg. (UE) 2026/1744)Cap. 13 + Policy 37 §11Trilho formativo por role; obrigatório com agentes A1+ (escolha do Manual)
5.º, n.º 1-ASalvaguardas de geradores de conteúdo realistaTHR-008, ARC-014 (pisos CTX-AIA-RE-P09, P10; grau ART50)Threat model do conteúdo gerado + red-team + filtros de entrada e de saída
9Gestão de riscoCap. 01, Cap. 02 §A0–A4, Cap. 03 playbook agenticFora de âmbito (decisão do programa): sistema de gestão da organização; a classificação L1–L3, o nível A0–A4 e o threat model com ATLAS servem de evidência
10Dados e governação de dadosCap. 05 (DEP-011..014) + Policy 39Fora de âmbito (decisão do programa): governação de dados de treino; AI BOM (CycloneDX 1.6 ml-bom), pinning e fornecedores aprovados dão evidência de proveniência
11 / Anexo IVDocumentação técnicaCap. 02, Cap. 04, Policy 38 (mandate)Índice Anexo IV (mapa de evidência) + model card + mandate + AI BOM
12 / 19Logging e retençãoCap. 12 + OPS-011..014 + Cap. 12 US-13Logs de inferência + audit per tool invocation
13Transparência e prestação de informações aos responsáveis pela implantaçãoCap. 04 + Policy 38 (mandate)Mandate como fonte de capabilities/limitations/supervisão; redacção das instruções pelo prestador
14 ⚡Supervisão humanaARC-014 (piso CTX-AIA-RE-P08) + Cap. 02 §A0–A4 + ARC-015 + Policy 38Interface de supervisão em qualquer sistema de risco elevado; kill-switch, intent declaration e OOB approval nos agentes
15Exatidão, solidez e cibersegurançaCap. 03 playbook, ARC-014/015, Cap. 10 §C5 (eval suites), OPS-014 (jailbreak)Eval suites contínuas + threat library + off-policy detection; exatidão e solidez pendentes da ronda AISVS/SAIF
17QMSCap. 07, Cap. 14, Policy 38 (mandate lifecycle), Policy 39 (AI BOM lifecycle)Fora de âmbito (decisão do programa); os gates e os ciclos das Policies 38/39 servem de evidência
25Responsabilidades ao longo da cadeia de valor da IADEP-013/014 + Policy 39 + Cap. 14 US-21Pinning + fornecedores de serviços de IA aprovados + cláusulas
26Obrigações dos responsáveis pela implantaçãoPolicy 38 (mandate) + Cap. 00 (função composta) + Cap. 12 US-13Mandate do deployer + supervisão qualificada + logs sob controlo
43.º, n.º 4Modificação substancialARC-009 (piso CTX-AIA-RE-P11)Classificar e registar cada alteração
50TransparênciaCTX-AIA-RE-R01, R02 (grau ART50)Informar; marcar conteúdo sintético
53 / 55GPAICap. 03 playbook + Cap. 05 (DEP-011..014) + Cap. 10 §C5 + OPS-014 + Cap. 14 US-21AI red teaming via eval suites + proteção de pesos + cláusulas Art. 53/55
72Acompanhamento pós-comercializaçãoCTX-AIA-RE-R04 + Cap. 12 + OPS-011..014 + Cap. 12 US-13Plano por sistema + telemetria agentic + drift detection
73Incidentes gravesCap. 12 + OPS-014 + Policy 16 §11.4 + Policy 30 §9.3 + Policy 39 §7Runbook alinhado com a Política 32 §6 + classes de incidente agentic + upstream IR
86Explicação a pessoas afectadasCTX-AIA-RE-R03 + OPS-011Registar o resultado e os elementos de cada decisão

Como Implementar (Ordem Lógica)​

Fase 1: Governação de IA (M0–M3)​

O sistema de gestão da qualidade do Art. 17 fica fora do âmbito do Manual; os passos abaixo produzem evidência que o alimenta.

  1. Definir governação de IA

  2. Mapear gates SbD-ToE como evidência para o QMS da organização (Art. 17)

  3. Definir RACI de IA

    • Quem aprova release de modelo, quem assina exceções, quem comunica incidentes (Art. 73)

Fase 2: Classificação e threat model (M2–M5)​

AI Act Art. 6 - Declaração do contexto CTX-AIA-RE (o sistema de gestão de riscos do Art. 9 fica fora de âmbito; o threat model serve-lhe de evidência)

  1. Inventariar sistemas de IA

  2. Classificar criticidade (L1–L3) e declarar o contexto regulatório

    • Declarar o contexto CTX-AIA-RE na aplicação (ou só o grau ART50); o nível L1–L3 decide-se pelos critérios do Cap. 01, e os pisos do contexto aplicam-se em qualquer nível
    • L3 é a classificação de risco do Manual; não equivale a sistema de IA de risco elevado na acepção do AI Act (art. 6.º)
  3. Threat model estendido ao vetor adversarial

    • Base: STRIDE / MITRE ATT&CK (Cap. 03)
    • Extensão: MITRE ATLAS e OWASP ML/LLM Top 10
    • Cobrir (Art. 15.º, n.º 5): contaminação de dados (data poisoning), contaminação de modelos (model poisoning), exemplos antagónicos ou evasão de modelos (adversarial examples / model evasion), ataques de confidencialidade, falhas do modelo (model flaws)
    • Evidência: Threat model documentado, risco residual e medidas

Fase 3: Dados e documentação (M3–M6)​

AI Act Art. 10, 11, Anexo IV

  1. Proveniência e integridade de dados e modelos (AI-BOM)

    • Estender o inventário do Cap. 05 a datasets, checkpoints e modelos
    • Verificação de integridade (mitiga poisoning e modelos comprometidos de repositórios públicos)
  2. Data governance de IA (fora de âmbito)

    • Representatividade, deteção de enviesamento, qualidade estatística (Art. 10)
    • Datasheets for datasets / data cards
    • Fora de âmbito (decisão do programa): o SbD-ToE garante integridade e proveniência; a governação de dados de treino e o enviesamento são trabalho de ciência de dados
  3. Documentação técnica (Anexo IV)

    • Construir "índice Anexo IV" apontando para artefactos SbD-ToE (arquitetura, requisitos, threat model, evidência de pipeline/testes) + model card, a partir do mapa de evidência da página gerada
    • Referência: Cap. 02, Cap. 04

Fase 4: Segurança técnica e solidez (M5–M10) — NÚCLEO​

AI Act Art. 15 - Exatidão, solidez e cibersegurança

4.1 Arquitetura defensiva​

  • O que: Fronteiras de confiança (incluindo agentic boundary — ARC-014), validação de input, isolamento do serviço de inferência, redução de superfície. Quando há agentes AI com tool-use, aplicar ARC-015 (agente como principal isolado): identidade dedicada via OIDC, scope mínimo por tool, intent declaration, OOB approval, kill-switch exercitado.
  • Referência: Cap. 04 — ARC-014/ARC-015, Cap. 09 — Containers/Runtime

4.2 Threat modeling + eval suites + red teaming (CRÍTICO PARA Art. 15)​

  • O que: O catálogo de testes inclui agora eval suites contínuas (Cap. 10 §C5) — regression de prompt/skill, abuse corpus (LLM01-2025 prompt injection, LLM06-2025 excessive agency), drift detection, A/B testing. Para sistemas com agentes A2+, suite obrigatória; para A4 em GPAI com risco sistémico, cadência mensal (escolha do Manual).
  • Threat model: Cap. 03 playbook agentic com threat library MITRE ATLAS já incluída — DFD canónico (5 participantes / 4 trust boundaries) + threats por fronteira (AML.T0051.001, T0086, T0101, T0109, T0110, LLM01/06/07).
  • Referência: Cap. 10 §C5 — Eval suites, Policy 19 §7
  • 📄 Template: Opções de Toolchain

4.3 Pipeline seguro de ML + agentes como principals​

  • O que: Gates de segurança no pipeline (SAST/SCA, secrets, integridade de artefactos) + agentes AI que operam a pipeline com workload identity efémera OIDC, scope per-tool, audit per tool invocation (Cap. 07 US-19).
  • Referência: Cap. 07 — US-19, Cap. 08 — IaC, Policy 18 §9

4.4 Exatidão e solidez (lacuna declarada)​

  • Pendente da ronda AISVS/SAIF do AppSec Core. Até lá, registar as métricas obtidas nas eval suites (Cap. 10 §C5) e na telemetria operacional (Cap. 12 US-13) como evidência, sem as apresentar como cumprimento.

4.5 Supervisão humana (Art. 14)​

  • O que: Em qualquer sistema de risco elevado, com ou sem agentes, interface de supervisão conforme o ARC-014 com o piso CTX-AIA-RE-P08: compreender as capacidades e limitações do sistema, detetar anomalias, interpretar o resultado, decidir não o usar ou anulá-lo e parar o sistema; quem supervisiona é advertido para o enviesamento da automatização. Nos agentes, REQ-AGN-001..004 e ARC-015 (kill-switch, intent declaration, OOB approval).
  • Fora de âmbito: a verificação por duas pessoas da identificação biométrica (art. 14.º, n.º 5).
  • Referência: Requisitos aplicáveis — Pisos, Cap. 02 §A0–A4

4.6 Salvaguardas de conteúdo gerado (Art. 5.º, n.º 1-A)​

  • O que: Em sistemas que geram ou manipulam imagem, vídeo ou áudio realistas (grau ART50), o threat model cobre a utilização indevida razoavelmente previsível do conteúdo gerado, avaliada com red-team e testes de segurança de conteúdo (THR-008, piso CTX-AIA-RE-P09), e há filtros e classificadores de segurança de conteúdo na entrada e na saída (ARC-014, piso CTX-AIA-RE-P10).
  • Referência: Requisitos aplicáveis — Pisos

Fase 5: Logging e acompanhamento pós-comercialização (M8–M12)​

AI Act Art. 12, 19, 72

5.1 Logging de inferência + audit per tool invocation​

  • O que: Esquema de logs estendido com metadados de inferência (id/versão do modelo, features relevantes, decisão e confiança, correlation id) + audit per tool invocation (OPS-012) quando há agentes AI: timestamp, agent_id, session_id, mandate_ref, autonomy_level, tool, tool_version, args (PII redactada), intent_event_ref, outcome, external_effect.
  • Retenção: Período adequado à finalidade prevista do sistema, de pelo menos seis meses (AI Act, art. 19.º, n.º 1, e art. 26.º, n.º 6); no SbD-ToE, 1 ano em L2 e 2 anos em L3 (escolha do Manual; Política 29 §7); conservação limitada pelo RGPD quando houver dados pessoais; imutabilidade.
  • Referência: Cap. 12 — OPS-011..014 + Cap. 12 US-13

5.2 Plano de acompanhamento pós-comercialização (Art. 72)​

  • O que: Plano de acompanhamento por sistema (CTX-AIA-RE-R04), quando a organização é o prestador, integrado na documentação técnica (anexo IV, ponto 9), com os sinais de produção (OPS-011) e os dos responsáveis pela implantação, os critérios de desempenho, a cadência e o responsável da análise. Base técnica: dashboards de desempenho, model drift, token budget (OPS-013) e deteção de jailbreak / off-policy actions (OPS-014). Para sistemas com agentes em A2+, telemetria agentic (Cap. 12 US-13) é a base evidencial.
  • Gatilhos: Degradação, drift, budget overrun ou off-policy desencadeiam rollback, reclassificação, revisão do threat model ou notificação de incidente grave.
  • Referência: Cap. 12 US-13, Policy 30 §9

5.3 Transparência e explicação (Art. 50, Art. 86)​

  • O que: Informar as pessoas de que interagem com um sistema de IA e divulgar as falsificações profundas (CTX-AIA-RE-R01); marcar o conteúdo sintético num formato legível por máquina (CTX-AIA-RE-R02); ambos verificados em teste, sob o grau ART50. Quando um sistema do anexo III apoia decisões sobre pessoas, informá-las e registar, por decisão, o resultado e os principais elementos que o determinaram (CTX-AIA-RE-R03, OPS-011).
  • Fora de âmbito: a divulgação de texto gerado por IA publicado sobre matérias de interesse público (art. 50.º, n.º 4, segundo parágrafo).
  • Referência: Requisitos aplicáveis — Requisitos acrescentados

5.4 Modificação substancial (Art. 43.º, n.º 4)​

  • O que: Cada alteração é classificada como predeterminada ou como modificação substancial, e a classificação fica registada; uma modificação substancial é sinalizada para nova avaliação da conformidade (ARC-009, piso CTX-AIA-RE-P11).
  • Referência: Requisitos aplicáveis — Pisos

Fase 6: Incidentes graves (M10–M12)​

AI Act Art. 73

  • O que: Alinhar o runbook e o esquema de incidente com a Política 32 (§4.1 e §6), que fixa a definição e os prazos do Art. 73 (imediatamente após determinar a relação causal e, o mais tardar, ≤15 dias em regra; ≤10 dias em caso de morte; ≤2 dias em caso de infração generalizada ou de incidente grave do art. 3.º, ponto 49, alínea b); prazos a contar do conhecimento pelo prestador ou pelo responsável pela implantação; admite relatório inicial incompleto). Classes de incidente agentic-específicas (Policy 16 §11.4): off-policy action, intent-action divergence, prompt injection bem-sucedida, falha de kill-switch, credential exposure. Incidentes upstream (Policy 39 §7): rug pull, dataset poisoning, MCP tool poisoning, provider outage. Acrescentar ao runbook a informação prévia à autoridade antes de qualquer alteração ao sistema que afecte a análise de causas (art. 73.º, n.º 6; lacuna parcial do Manual).
  • Como: Exportadores SIEM/ITSM → notificação pronta para a autoridade de fiscalização do mercado. OPS-014 alimenta o fluxo IR (Cap. 12 US-04).
  • Referência: Cap. 12, Cap. 14, Policy 16 §11.4, Policy 30 §9.3, Policy 39 §7
  • 📄 Template: Relatório de Incidentes

Fase 7: GPAI (quando aplicável)​

AI Act Art. 53, 55

7.1 Proteção do modelo (Art. 55 — cibersegurança)​

7.2 AI red teaming contínuo (Art. 55)​

  • O que: Programa contínuo de avaliação adversarial materializado em Cap. 10 §C5 — eval suites: regression de prompt/skill, abuse corpus (LLM01-2025 prompt injection, LLM06-2025 excessive agency), drift detection, A/B. Para agentes em nível A4 (escala interna do SbD-ToE) — e, independentemente do nível, quando se é prestador de GPAI com risco sistémico (Art. 51) —, cadência mensal (escolha do Manual) de kill-switch e atualização do corpus de deteção OPS-014.
  • Referência: Cap. 10 §C5, Policy 19 §7

7.3 Hardening de infraestrutura física e lógica (Art. 55)​

7.4 Conformidade contratual declarada (art. 53.º e, com risco sistémico, art. 55.º — fornecedores de serviços de IA)​

  • O que: Quando a organização consome GPAI de um fornecedor de serviços de IA, o contrato declara conformidade Art. 53 (documentação técnica, summary of training data, política de copyright) e — quando aplicável — Art. 55 (avaliação do modelo com testagem antagónica documentada, avaliação e atenuação de riscos sistémicos, comunicação de incidentes graves ao Serviço para a IA, cibersegurança do modelo e da infraestrutura física).
  • Referência: Cap. 14 US-21, Policy 33 §10
  • A documentação dos anexos XI e XII é redigida pelo prestador do modelo; o AI BOM e as eval suites arquivadas dão-lhe evidência. A política de direitos de autor e o resumo dos conteúdos de treino (art. 53.º, n.º 1, als. c) e d)) ficam fora de âmbito: são plano jurídico. Aplica-se quando a organização é prestadora de modelos de IA de finalidade geral.

Checklist de Alinhamento Técnico (AI Act)​

A lista abaixo permite validar o alinhamento técnico do programa SbD-ToE com os requisitos do AI Act — não emite o juízo de conformidade legal. Recomenda-se revisão periódica:

  • Enquadramento: Papel e categoria de risco determinados (jurídico); contexto CTX-AIA-RE (ou grau ART50) declarado na aplicação
  • Literacia (Art. 4): Trilho formativo activado conforme Policy 37 §11 (obrigatório com agentes A1+ — escolha do Manual)
  • Governação de IA: Política de IA aprovada; gates mapeados como evidência; Policy 38 (mandates) + Policy 39 (AI BOM lifecycle) operacionais
  • Classificação: Sistemas de IA inventariados e classificados (L1–L3); níveis A0–A4 declarados nos mandates
  • Threat model: Threat model com playbook agentic executado; threat library MITRE ATLAS + OWASP LLM Top 10 já incluída
  • Supervisão (Art. 14): interface de supervisão (ARC-014, piso P08) validada em todos os sistemas de risco elevado; REQ-AGN-001..004 operacional; ARC-015 validado; kill-switch exercitado com cadência registada
  • Proveniência de dados e modelos: AI BOM CycloneDX 1.6 ml-bom gerado por build (DEP-012); fornecedores de serviços de IA aprovados (DEP-014)
  • Documentação (Art. 11/Anexo IV): Índice Anexo IV + model card + mandate + AI BOM
  • Cibersegurança (Art. 15): Eval suites contínuas operacionais (Cap. 10 §C5); off-policy / jailbreak detection (OPS-014)
  • Supply chain (Art. 25): Pinning (DEP-013); lista de fornecedores de serviços de IA aprovados (DEP-014); cláusulas contratuais (Cap. 14 US-21)
  • Responsável pela implantação (Art. 26): Mandate do responsável pela implantação documentado quando a organização utiliza o sistema de IA sob a sua própria autoridade (art. 3.º, ponto 4) sem ser o seu prestador
  • Logging (Art. 12/19): Logs de inferência + audit per tool invocation (OPS-012) com retenção e imutabilidade
  • Monitorização (Art. 72): Plano por sistema (CTX-AIA-RE-R04) + telemetria agentic + dashboards de drift, budget, off-policy
  • Transparência e explicação (Art. 50, Art. 86): R01 e R02 verificados em teste; R03 aplicado quando um sistema do anexo III apoia decisões sobre pessoas
  • Salvaguardas de conteúdo (Art. 5.º, n.º 1-A): pisos P09 e P10 aplicados em geradores de imagem, vídeo ou áudio realistas
  • Modificação substancial (Art. 43.º, n.º 4): alterações classificadas e registadas (ARC-009, piso P11)
  • Incidentes (Art. 73): Runbook alinhado com a Política 32 §6 + classes agentic (Policy 16 §11.4) + upstream IR (Policy 39 §7)
  • GPAI (art. 53.º; art. 55.º se o modelo tiver risco sistémico): AI BOM + eval suites + kill-switch exercitado mensalmente (cadência do Manual) + cláusulas declaradas
  • Evidência: Data room com documentação técnica, mandates, AI BOMs, eval reports, audit trails, telemetria

O Que Cada Capítulo SbD-ToE Cobre (Referência Rápida)​

✏️ Revisão 2026-09-27. Tabela alinhada com a matriz de cobertura: os arts. 9, 10 e 17 estão fora do âmbito do Manual e aparecem marcados «(evidência)», porque os capítulos lhes servem apenas de evidência.

CapítuloAI Act ArtigosO Que Faz
Cap. 00 — FundamentosArt. 4, 26Roles canónicos + função composta "AI Reliability Engineer"
Cap. 01Art. 6 (contexto CTX-AIA-RE), 9 (evidência)Classificação de criticidade (L1–L3)
Cap. 02 §A0–A4 + REQ-AGNArt. 9 (evidência), 14Modelo de níveis de autonomia A0–A4 + mandate + intent declaration
Cap. 03 playbook agenticArt. 5, 9 (evidência), 15Threat modeling com MITRE ATLAS + OWASP LLM Top 10 2025
Cap. 04 — ARC-014/ARC-015Art. 14, 15, 43 (n.º 4)Arquitetura defensiva + agente como principal isolado + kill-switch
Cap. 05 — DEP-011..014Art. 10 (evidência), 15, 25, 55AI BOM + pinning + fornecedores de serviços de IA aprovados
Cap. 06 — Prompts como códigoArt. 15, 17 (evidência)Versionamento + revisão de system prompts, skill files, agent files
Cap. 07 US-19Art. 15, 17 (evidência)Pipeline seguro + agentes AI como principals com OIDC + audit
Cap. 09Art. 15, 55Hardening de runtime/inferência
Cap. 10 §C5Art. 15, 55Eval suites contínuas (regression, abuse, drift, A/B)
Cap. 11Art. 17 (evidência)Gate de release, validação pré-produção
Cap. 12 US-13 + OPS-011..014Art. 12, 19, 72, 73, 86Telemetria agentic + audit per tool + jailbreak detection
Cap. 13 (formação)Art. 4Literacia no domínio da IA por role
Cap. 14 US-21Art. 17 (evidência), 25, 26, 73Governança + contratação de fornecedores de serviços de IA + escalonamento

Métrica Simples: Estou Alinhado?​

Estas perguntas são um auto-diagnóstico técnico — respondê-las não emite o juízo de conformidade legal. Um SIM a todas indica que o núcleo técnico está alinhado:

  1. Enquadramento: Conheço o meu papel e a categoria de risco?
  2. Supervisão (Art. 14): Tenho interface de supervisão humana em cada sistema de risco elevado?
  3. Cibersegurança (Art. 15): Tenho threat model que cobre o vetor adversarial (ATLAS) e faço AI red teaming?
  4. Cadeia: Tenho proveniência e integridade de datasets e modelos?
  5. Logging: Registo eventos de inferência com retenção adequada?
  6. Monitorização: Tenho plano de acompanhamento pós-comercialização por sistema (R04) com deteção de drift?
  7. Incidentes: Consigo comunicar um incidente grave nos prazos do Art. 73?
  8. Transparência (Art. 50): Informo as pessoas e marco o conteúdo sintético?
  9. Documentação: Tenho índice Anexo IV + model card?
  10. Evidência: Consigo demonstrar tudo isto numa auditoria?

≥8/10 → Boa maturidade técnica face ao AI Act (maturidade técnica, não conformidade legal). <6 → Priorizar Art. 15 (cibersegurança), logging (Art. 12) e supervisão (Art. 14).

⚠️ Nota: esta métrica cobre o núcleo técnico. A conformidade plena exige ainda o que fica fora do âmbito do Manual — gestão de riscos (Art. 9), governação de dados de treino (Art. 10), gestão da qualidade (Art. 17), avaliação da conformidade, declaração UE de conformidade, marcação CE e registo (Art. 43, 47–49) — e a exatidão e a solidez, pendentes da ronda AISVS/SAIF do AppSec Core.


Nota Crítica: Gestão de Exceções no AI Act​

O AI Act exige que os sistemas de IA de risco elevado cumpram os requisitos do capítulo III, secção 2 (art. 8.º, n.º 1). Exceções (desvios) devem ser formais e auditadas, com trilho documental e aprovação adequada. Uma exceção interna não altera a obrigação legal do AI Act — apenas documenta um risco técnico aceite para o dossiê de evidência; a obrigação legal subsiste.

O que caracteriza uma exceção em SbD-ToE/AI Act:

  • Desvio formal de um requisito (ex.: vetor adversarial mitigado por compensação enquanto se prepara retraining)
  • Aprovação formal, justificação, TTL (Time-To-Live), plano de remediação

Quem aprova (por nível de criticidade):

  • L1 (baixo risco): Tech lead / AppSec Engineer
  • L2 (médio risco): CISO / responsável de IA
  • L3 (risco elevado na escala do Manual, que não equivale a risco elevado no AI Act): Governação de IA + gestão (accountable)

Implicação regulatória:

  • Exceções sem aprovação formal comprometem a evidência técnica apresentada à autoridade
  • Algumas situações nunca são exceptuáveis - desde logo, qualquer uso que recaia nas práticas proibidas do Art. 5
  • Trilho auditado é obrigatório para demonstrar controlo à autoridade

Referência: Cap. 02 - Requisitos de Segurança (addon de exceções) e Cap. 14 - Governança (exceções formalizadas).


Próximos Passos​

  1. Enquadramento jurídico: Determinar papel e categoria de risco (jurídico/compliance) e declarar o contexto CTX-AIA-RE na aplicação
  2. Auditoria técnica atual: Verificar Cap. 01–Cap. 14 contra os requisitos técnicos do AI Act
  3. Definir roadmap: Sequenciar fases conforme contexto e categoria de risco
  4. Articular com domínio: Coordenar com ciência de dados, produto e jurídico o que fica fora do âmbito do Manual
  5. Implementar e validar: Iterar e demonstrar a evidência técnica em auditoria

Documentação completa: ver capítulos SbD-ToE 01–14 para detalhe técnico e operacional.


Referências​

  • SbD-ToE Manual: Capítulos 01–14 (detalhe técnico por domínio)
  • Cross-Check AI Act: Análise normativa completa
  • AI Act: Regulamento (UE) 2024/1689
  • Frameworks de Referência: ISO/IEC 42001, ISO/IEC 23894, NIST AI RMF 1.0, MITRE ATLAS, OWASP ML Security Top 10, OWASP Top 10 for LLM Applications

Versão: 1.1 Data: Setembro 2026 Nota: Este playbook complementa a análise normativa AI Act com implementação prática.