Capítulo 08: Tensores, Memória Compilada RMM (RMM1/RMM2), Regiões e Sistemas
Até aqui vimos o lado mais amável, elegante e matemático do Ridgun: funções puras, tipos algébricos, pattern matching, árvores de decisão com | / |. e grafos paralelos || com -> que aproveitam todos os núcleos do seu processador sem lhe pedir um único Mutex.
Chegados a este ponto, o programador veterano de sistemas costuma levantar a mão no fundo da sala com um meio sorriso e perguntar:
"Tudo isto é lindo para calcular faturas ou compilar ASTs, mas o que acontece quando preciso de multiplicar matrizes de milhões de números em vírgula flutuante a uma velocidade vertiginosa? O que acontece com a memória? Há um coletor de lixo (Garbage Collector) escondido debaixo do tapete à espera do pior momento para congelar o meu programa durante 200 milissegundos? E como falo com o sistema operativo Unix a sério?"
Excelentes perguntas. Vamos levantar o capô do Ridgun para ver como ele se comporta quando toca a descer ao terreno dos sistemas, do cálculo numérico e da memória determinística.
8.1. O dilema da memória: nem Garbage Collector nem lutas com o Borrow Checker (RMM1 e RMM2)
No mundo das linguagens modernas costuma haver dois campos irreconciliáveis:
- O campo do Garbage Collector (Java, Go, Python, JS, Haskell, OCaml): pede memória alegremente e, de vez em quando, um camião do lixo invisível pára o trânsito do seu programa para rastrear que objetos continuam vivos e quais não. É comodíssimo... até estar a fazer uma ferramenta de sistema ultrarrápida ou um servidor com latências estritas e o camião decidir estacionar em segunda fila.
- O campo do controlo manual / Borrow Checker (C, C++, Rust): não há coletor de lixo, mas em troca tem de gerir ponteiros à mão (arriscando um
Segmentation faultou um use-after-free) ou passar meia tarde a negociar com o borrow checker porque é que'anão vive tanto tempo como'b.
O Ridgun resolve este dilema pela raiz com o Ridgun Memory Management (RMM), um sistema determinístico de duas políticas complementares (RMM1 e RMM2) combinado com regiões léxicas (with region):
Política RMM1 — Gestão de Memória Compilada (CMM Linear e Condicional)
Quando o compilador conhece estaticamente o fluxo das variáveis locais dentro de uma função:
- CMM Linear: o
ridgunccalcula em tempo de compilação qual é a última linha em que se lê cada variável local (a,b, ...) e insere logo a seguir a sua libertação determinística (rg_cmm_drop), ou transfere a sua propriedade sem cópias (rg_cmm_move) quando a variável é devolvida como resultado. - CMM Condicional (
ptr(a) != ptr(c)): e se uma função comoescolher cond a bdevolveraoubsegundo uma condição em tempo de execução? Oridguncconstrói a tabela de ancestrais e emite uma guarda de identidade de ponteiros de 1 ciclo de CPU: sebdeixar de ser usada enquantoccontinua viva, verificaif ptr(b) != ptr(c) { free(b) }. O ramo não escolhido é libertado no instante e o escolhido sobrevive intacto.
Política RMM2 — Contagem por Atribuição e Cascata Estrutural
E o que acontece quando coloca estruturas dentro de outras estruturas (xs = [a, b]), reatribui variáveis mutáveis (mut x = ...) ou encadeia chamadas complexas? Aí entra a RMM2, que governa todo o ciclo de vida com quatro regras matemáticas sem falhas:
- Os argumentos de entrada de uma função não são tocados (
+0ao entrar,-0ao sair): passar uma lista ou um registo a uma função jamais incrementa nem decrementa contadores em vão. - Toda a atribuição a uma variável local interna ou célula de contentor soma
+1:
a = [10, 20]$\rightarrow$ o blocoM1nasce com contador1.xs = [a, b]$\rightarrow$ a listaxsnasce com1, e como guarda referências aaeb, ambos sobem para2.- Se reatribuir uma variável mutável (
mut x = ...e depoisx = novo), aRMM2aplica primeiro+1ao valor novo antes de aplicar-1ao antigo.
- Ao sair da função, as variáveis locais que NÃO são devolvidas recebem
-1: se o contador de uma estrutura chegar a0, liberta-se a sua memória na hora e propaga-1em cascata, um por um, a cada um dos seus filhos diretos. - O valor devolvido pela função fica isento em trânsito: recebe o seu
-1de variável local mas não é destruído ao cruzar o retorno, de modo que quando quem chamou fazc = minha funcao (), esse+1da atribuição deixa-o exatamente em1.
escolher Bool [Int] [Int] => [Int]
escolher cond a b =
| cond = a
| otherwise = b
exemplo rmm2 Bool => Int
exemplo rmm2 cond =
a = [10, 20, 30] -- M1 (rc = 1)
b = [40, 50, 60] -- M2 (rc = 1)
c = escolher cond a b -- `c` recebe +1; o não escolhido morre aqui mesmo (rc -> 0)
(contar a) + (contar c) -- Ao terminar, `a` e `c` recebem -1 e tudo fica com 0 blocos vivos
8.2. Regiões Léxicas com Quota (with region): Corta-fogos de memória em $O(1)$
Além da RMM1 e da RMM2, quando está a processar um pacote de rede externo, um ficheiro gigante ou um lote de dados não confiáveis e quer impor um teto estrito de memória RAM, envolve o cálculo num bloco with region:
processar trama String => Result
processar trama bruto =
with region 64_KB do
limpas = map limpar linha (dividir linhas bruto)
contar validos limpas
- Quota garantida em hardware/runtime: se dentro do bloco se tentar reservar nem que seja um único byte acima de
64_KB(65.536bytes), o runtime aborta de forma limpa o bloco, liberta toda a arena temporária em tempo constante $O(1)$ e devolveErr OutOfMemorysem derrubar o processo. - Libertação instantânea ao sair: assim que termina o bloco
with region, toda a memória temporária da arena desaparece de uma só vez sem deixar fragmentação.
8.3. Tensores Nativos, Contração de Einstein (@) e Dimensões Simbólicas
Se alguma vez programou em Python com NumPy ou PyTorch, de certeza que já sofreu o clássico erro ao minuto 41 de execução:
RuntimeError: mat1 and mat2 shapes cannot be multiplied (128x64 and 32x128)
Em Ridgun, os Tensor são cidadãos nativos de primeira classe e as suas dimensões fazem parte da assinatura de tipos:
-- Se entra (N × K) e (K × M), obrigatoriamente sai (N × M)!
multiplicar matrizes Tensor[N, K] Tensor[K, M] => Tensor[N, M]
multiplicar matrizes a b = a_ik @ b_kj
Repare em dois detalhes espetaculares:
- Verificação estática de dimensões (
Tensor[N, K]): o eixo internoKda primeira matriz tem de coincidir com o primeiro eixoKda segunda. Se tentar passar dimensões incompatíveis, oridgunc checkdetém-no antes de executar o que quer que seja. - Notação de subscritos de Einstein (
a_ik @ b_kj) e Hadamard (a_ij * b_j):
- Com
@, os subscritos repetidos em todos os operandos (k) contraem-se (somam-se) e os únicos (i,j) sobrevivem no tensor resultado. - Com
+,-,*,/, os subscritos alinham dimensões e fazem broadcasting automático (a_ij * b_jmultiplica cada linhaideapelo vetorb_jsem necessidade de escreverunsqueezenemreshape).
- Tensores tipados de alto desempenho (
Tensor[U64 * N]) e mutação in-place comt_(i, j): Em sistemas criptográficos, simulações físicas ou álgebra linear pode declarar tensores planos sobre um bloco contíguo de inteiros sem sinal de 64 bits (Tensor[U64 * 4],Tensor[U64 * 8 * 16]), operar em paralelo com^(XOR nativo de bloco) e ler ou escrever elementos em tempo $O(1)$ com a sintaxe de subscrito explícitot_(i)out_(i, j):
criar bloco estado => Tensor[U64 * 2 * 2]
criar bloco estado =
mut m = tensor fill [2, 2] (u64 0)
m_(0, 1) = u64 0x6a09e667f3bcc908
m
8.4. Acesso a Hardware (hardware ::) e Primitivas POSIX de Sistemas
O próprio compilador ridgunc, o gestor stable e utilitários de sistemas Unix estão escritos em Ridgun. Para tal, a linguagem inclui blocos de registos mapeados em memória (hardware ::) e primitivas POSIX diretas:
hardware :: UART0 @ 0x1000_0000
tx_data : Int @ 0x00
status : Int @ 0x04
E para trabalhar com o sistema operativo:
| Primitiva | Assinatura | O que faz |
|---|---|---|
cli args | => [String] | Argumentos de linha de comandos (argv). |
read file / write file | String => String / String String => () | Leitura e escrita integral de ficheiros em disco. |
read bytes / write bytes | String => [Int] / String [Int] => () | Leitura e escrita binária exata byte a byte (0..255). |
list dir / file lstat | String => [String] / String => ... | Listagem de diretórios e inspeção de metadados POSIX (lstat). |
sha256 file / sha256 str / sha256 raw | String => String | Hash criptográfico SHA-256 nativo (em hexadecimal de 64 caracteres ou resumo binário bruto de 32 bytes com sha256 raw / sha256 bytes). |
sys exec / shell exec | ... => Int | Execução de processos do sistema operativo. |
sys getcwd / sys chdir | => String / String => Int | Consultar ou alterar o diretório de trabalho. |
sys getenv / sys setenv | String => String / String String => Int | Variáveis de ambiente do processo. |
sys getuid / sys getgid | => Int | UID e GID reais do processo (doas, ferramentas de segurança). |
sys exit | Int => () | Terminar o processo com código de saída. |
8.5. O Ecossistema de Bibliotecas Padrão (ridgun-libs)
Além das primitivas do compilador, o ecossistema oficial do Ridgun inclui 32 bibliotecas puras (.rglib) escritas inteiramente em Ridgun que pode importar com import <nome> em qualquer projeto:
| Categoria | Bibliotecas disponíveis | O que oferecem |
|---|---|---|
| Coleções, Texto e Dados | collections, set, string, regex, utf8, fmt, csv, json, toml, yaml, xml, html, markdown, base64, hex, compress, sql | Mapas, conjuntos, expressões regulares, parsers/serializadores estruturados, codificação e motores de consultas. |
| Matemática, Tempo e Aleatoriedade | math, random, datetime, uuid, log, cli, bench, test | Funções matemáticas, PRNG determinístico e de sistema, datas ISO-8601, UUIDs, frameworks de testes e benchmarks com clock_gettime. |
| Sistemas, Rede e Web | fs, path, process, env, net, http, uri | Sistema de ficheiros de alto nível, manipulação de caminhos, subprocessos, sockets TCP/UDP e cliente/servidor HTTP. |
Criptografia e Segurança (crypto) | crypto (sha256, hmac, hkdf, pbkdf2, argon2id, chacha20, aes, x25519, ed25519, csprng) | Suite criptográfica verificada com vetores oficiais RFC/NIST, implementada sobre U64, Tensor[U64 * ...] e sha256 raw com otimização de inlining de tuplos sem alocações no heap. |
8.6. Caso de Estudo Real: Construindo rg-wc, um utilitário Unix paralelo
Vamos unir tudo o que aprendemos desde o Capítulo 01 até aqui num programa real de sistemas: uma versão paralela da ferramenta Unix wc (contador de linhas e bytes para múltiplos ficheiros) escrita em Ridgun puro:
-- 1. Modelamos as métricas de um ficheiro com um registo ADT (Capítulo 06)
type Metricas = ficheiro: String, linhas: Int, bytes: Int
-- 2. Contamos quebras de linha (código ASCII 10) com recursão de cauda TCO (Capítulo 04)
fn :: contar quebras String Int Int Int => Int
contar quebras texto pos fim acum =
| pos >= fim = acum
| (str char at texto pos) == 10 = contar quebras texto (pos + 1) fim (acum + 1)
| otherwise = contar quebras texto (pos + 1) fim acum
fn :: numero de linhas String => Int
numero de linhas texto = contar quebras texto 0 (str len texto) 0
-- 3. Analisamos um ficheiro e devolvemos a sua estrutura Metricas
fn :: analisar ficheiro String => Metricas
analisar ficheiro caminho =
conteudo = read file caminho
|| numero de linhas conteudo -> n_linhas
|| str len conteudo -> n_bytes ||.
Metricas caminho n_linhas n_bytes
-- 4. Formatamos cada linha e somamos totais com `fold` e `||` (Capítulo 07)
fn :: formatar metrica Metricas => String
formatar metrica m = "{linhas m}\t{bytes m}\t{ficheiro m}"
fn :: somar linhas Int Metricas => Int
somar linhas acc m = acc + (linhas m)
fn :: somar bytes Int Metricas => Int
somar bytes acc m = acc + (bytes m)
fn :: gerar relatorio [String] => String
gerar relatorio caminhos =
metricas = ||map analisar ficheiro caminhos
|| map formatar metrica metricas -> linhas_fmt
|| fold somar linhas 0 metricas -> total_l
|| fold somar bytes 0 metricas -> total_b ||.
"{linhas_fmt}\nTotal: {total_l} linhas, {total_b} bytes"
fn :: main => ()
main =
echo (gerar relatorio ["README.md", "AGENTS.md"])
Pare um segundo para olhar para essas ~40 linhas de código:
- Não há um único
null, nem uma exceção descontrolada, nem umMutex. contar quebrasé compilada para umloopnativo com 0 bytes de pilha graças ao TCO automático.||map analisar ficheiro caminhosprocessa os ficheiros em paralelo em todos os núcleos do seu CPU, e o bloco||calcula simultaneamente as linhas formatadas, o total de linhas e o total de bytes.- A memória temporária é libertada de forma determinística mediante
RMM1/RMM2. - E quando executa
ridgunc build rg_wc.rg -o rg-wc, obtém um binário nativo autónomo de ~350 KB pronto para copiar para/usr/local/bin.
8.7. Roteiro Final: As 10 Regras de Ouro do Programador Ridgun
- Escreva sempre primeiro o contrato (
=>) e depois as equações (=): pensar nos tipos primeiro faz com que o compilador trabalhe para si. - Deixe que o
stable formatpagine as suas tabelas: escreva com um espaço e deixe que a ferramenta alinhe colunas,=>,=e->. - Lembre-se da regra universal do
=: atrás de qualquer=pode abrir um bloco sequencial, uma árvore de guardas|ou um grafo paralelo||. - Use
|.e||.apenas quando fechar um bloco aninhado para voltar a um nível superior: mantenha as árvores de decisão profundas compactas e sem ambiguidade. - Imutável por omissão (
x = ...), mutável explícito (mut x = ...): usemutunicamente quando um acumulador local o exigir de verdade. - Use operadores booleanos claros em minúsculas (
and,or,xor,not) e feche sempre as suas guardas com| otherwise =. - Modele o seu domínio com ADTs (
type): use registos comwith campo: valore tipos soma (Option,Result) em vez denull. - Paralelize declarando dependências com
|| expr -> vare||map/||filter: deixe que o compilador verifique que não há ciclos e distribua o trabalho pelos núcleos. - Ponha dimensões simbólicas nos seus Tensores (
Tensor[N, K]) e subscritos nas suas contrações (a_ik @ b_kj). - Confie no
RMM(RMM1/RMM2), limite entradas externas comwith regione verifique sempre comstable checkestable test.
Boa viagem a programar em Ridgun!