39 Il Libro di Ridgun
La lib pool — Pool Limitato di Worker, Round-Robin e Work-Stealing
39.1. Perché esiste la lib pool? (Il problema reale e la filosofia Ridgun)
«Perché ho bisogno di una lib
poolscritta da zero in Ridgun puro invece di collegare una libreria C tradizionale?»
Questa è la prima domanda che si pone qualsiasi ingegnere di sistema arrivando a pool. E la risposta riassume l'intera filosofia di ridgun-libs:
Siamo sinceri: avviare un nuovo thread o attore per ogni richiesta in ingresso senza un limite superiore (unbounded spawning) fa sì che un picco di traffico esaurisca la memoria in pochi secondi (Out Of Memory).
La lib pool fornisce un dispatcher di task con backpressure esplicita (PoolAccept, PoolRejectFull), partizionamento bilanciato di batch su $K$ corsie (pool partition), ribilanciamento tramite work-stealing (pool steal rebalance) ed esecuzione parallela su attori nativi.
In un ecosistema tradizionale, risolvere i compiti del dominio AGENT comporta trascinare dipendenze esterne in C, gestire puntatori grezzi, conversioni opache di tipo, eccezioni non verificate o pause imprevedibili del garbage collector. In Ridgun, la lib pool (src/main/ridgun/lib/pool.rg) affronta il problema con quattro principi non negoziabili:
- Dichiara
import pool(oimport pool as alias) all'inizio del file: ogni lib definisce il proprio spazio dei nomimodule :: poole in modalità--strictle funzioni multi-parola si invocano sempre con spazi naturali. - Concatena le tue pipeline da sinistra a destra con
->: scriviinput passo uno -> passo due -> risultato, usa le maschere(+ _ _ +)per destrutturare le sequenze e ometti_ =nelle istruzioni sequenziali (o scarta il valore con-> ()). - Ricorsione di coda con TCO (Tail-Call Optimization): tutte le scansioni interne di
poolvengono compilate in cicli nativi in spazio di stack $O(1)$. - Memoria deterministica (
RMM1/RMM2): ogni struttura intermedia viene liberata nell'istante esatto in cui termina la sua ultima lettura, senza Garbage Collector.
39.2. Artefatti nativi, importazione e catalogo completo dell'API di pool
In ridgun-libs, pool è una lib di prima classe situata in src/main/ridgun/lib/pool.rg (dominio AGENT). Compilando con stable bundle, viene impacchettata in tre artefatti nativi:
| Artefatto | Percorso | Scopo |
|---|---|---|
| Bundle Ridgun | target/bundles/pool.rglib | Distribuzione e importazione diretta con import pool |
| File compilato | target/pool.rgc | Artefatto intermedio verificato da ridgunc |
| Oggetto condiviso ELF64 | target/libpool.so | Libreria dinamica nativa senza dipendenze C né libc |
Ogni lib dichiara il proprio spazio dei nomi con
module :: pool: basta scrivereimport pool(oimport pool as alias) nell'intestazione e invocare le sue funzioni con spazi naturali (mia funzione x) e pipeline->(x mia funzione -> risultato).
39.2.1. Riepilogo delle famiglie funzionali di pool
| Firma / Funzione / Tipo | Cosa fa e quando usarla |
|---|---|
pool new : Int -> Int -> PoolState | Crea un pool limitato con workers corsie e capacità massima max_queue |
pool submit : PoolState -> PoolTask -> (PoolState, PoolDecision) | Accoda un task in round-robin o restituisce PoolRejectFull se saturo |
pool partition / pool steal rebalance | Distribuisce i batch tra $K$ worker e ruba metà di una coda sovraccarica per un worker libero |
pool map sum / pool parallel sum2 | Distribuisce carichi di lavoro in parallelo su worker agent nativi |
39.2.2. Catalogo esaustivo dei tipi e delle firme in src/main/ridgun/lib/pool.rg
Di seguito trovi l'inventario completo dei tipi algebrici (type), degli operatori (op ::) e delle firme di funzione (fn ::) definiti in src/main/ridgun/lib/pool.rg (1 tipi, 0 operatori e 14 funzioni):
Tipi algebrici e record (type) di pool:
type AgentPool = Pool Int [Agent]
| # | Funzione / Firma (fn ::) | Tipo di Ritorno |
|---|---|---|
1 | fn :: pool size AgentPool | Int |
2 | fn :: pool agents AgentPool | [Agent] |
3 | fn :: pool get agent [Agent] Int | Agent |
4 | fn :: pool abs Int | Int |
5 | fn :: pool ask shard AgentPool Int A | B |
6 | fn :: pool broadcast AgentPool A | () |
7 | fn :: pool broadcast list [Agent] A | () |
8 | fn :: pool drain ready Agent | [B] |
9 | fn :: pool drain ready loop Agent [B] | [B] |
10 | fn :: pool drain step Agent Option [B] | [B] |
11 | fn :: pool drain all AgentPool | [B] |
12 | fn :: pool drain list [Agent] [B] | [B] |
13 | fn :: pool stop list [Agent] | () |
14 | fn :: pool shutdown AgentPool | () |
39.3. Esplorare pool a fondo: Esempi passo dopo passo di ogni funzionalità
Non basta consultare la tabella delle firme: esploreremo ciascuna delle funzionalità della lib pool tramite esempi progressivi ed eseguibili in Ridgun. Inizieremo con due ricette tabulari di uso quotidiano e poi percorreremo nel dettaglio tutti gli scenari funzionali, le trasformazioni e i casi limite verificati in src/test/ridgun/test pool.rg.
39.3.1. Esempio 1: Flusso principale in stile tabulare con pool
Osserva come in Ridgun i segni = e i passaggi di trasformazione con pool risultino allineati come una tabella pulita, senza variabili mutabili superflue né effetti collaterali nascosti:
import pool
fn :: despachar a shard AgentPool Int String => String
despachar a shard p hash_clave msg =
pool ask shard p hash_clave msg
39.3.2. Esempio 2: Composizione sicura e gestione dei casi limite
Ogni funzione della lib pool è progettata per comporsi con le guardie booleane | e con il resto delle 34 lib di ridgun-libs:
import pool
fn :: difundir y cerrar AgentPool String => ()
difundir y cerrar p evento =
pool broadcast p evento
pool shutdown p
39.3.3. Esempio 3: Combinatori di attori (agent ask, try ask, send batch, map batch, drain ready), pool partizionati e reattore di connessioni
In questo esempio pratico esploriamo in modo esaustivo come si comporta pool in questo blocco funzionale, inclusi input standard, combinazioni di parametri e valori di frontiera:
fn :: test spec combinators pool and net agent => ()
test spec combinators pool and net agent =
w1 = agent (ag double worker)
assert int equals (agent ask w1 21) 42 "agent ask 21 -> 42"
mb = agent map batch w1 [3, 5, 7]
assert int equals (ag sum ints mb) 30 "agent map batch [3,5,7] -> [6,10,14] sum 30"
agent send batch w1 [10, 20] -> ()
rc = agent receive count w1 2
assert int equals (ag sum ints rc) 60 "agent send batch + agent receive count -> 60"
c_dr = new counter agent 100
send 5 to c_dr
send 10 to c_dr
dr = agent drain ready c_dr
assert int equals (ag sum ints dr) 220 "agent drain ready [105, 115] -> 220"
agent stop all [w1, c_dr] -> ()
assert false (is agent alive w1) "w1 stopped by agent stop all"
assert false (is agent alive c_dr) "c_dr stopped by agent stop all"
s0 = new counter agent 0
s1 = new counter agent 1000
pl = Pool 2 [s0, s1]
assert int equals (pool size pl) 2 "pool size 2"
assert int equals (pool ask shard pl 0 5) 5 "pool ask shard 0 -> 5"
assert int equals (pool ask shard pl 1 7) 1007 "pool ask shard 1 -> 1007"
assert int equals (pool ask shard pl (0 - 3) 3) 1010 "pool ask shard negative key -> shard 1"
pool broadcast pl 10 -> ()
all_dr = pool drain all pl
assert int equals (ag sum ints all_dr) 1035 "pool drain all [15, 1020] -> 1035"
pool shutdown pl -> ()
assert false (is agent alive s0) "pool s0 stopped"
assert false (is agent alive s1) "pool s1 stopped"
ca = agent (ag echo conn step) (CounterState 0)
cb = agent (ag echo conn step) (CounterState 0)
s_eof = conn feed payload (0 - 1) ca ""
s_err = conn handle event (0 - 1) cb 8
kept = reactor sweep next s_eof (reactor sweep next s_err [])
assert int equals (agent list len kept 0) 0 "reactor sweep next prunes closed slots"
assert false (is agent alive ca) "ca stopped on EOF"
assert false (is agent alive cb) "cb stopped on POLLERR"
cc = agent (ag echo conn step) (CounterState 0)
reactor shutdown [ConnSlot (0 - 1) cc] -> ()
assert false (is agent alive cc) "cc stopped on reactor shutdown"
39.3.4. Esempio 4: Ciclo di vita degli agenti (is agent alive, agent status, stop agent) e agente contatore con stato isolato (new counter agent)
In questo esempio pratico esploriamo in modo esaustivo come si comporta pool in questo blocco funzionale, inclusi input standard, combinazioni di parametri e valori di frontiera:
fn :: test agent lifecycle and counter => ()
test agent lifecycle and counter =
assert str eq (format agent status AgentRunning) "running" "format AgentRunning"
assert str eq (format agent status AgentStopped) "stopped" "format AgentStopped"
assert str eq (format agent status (AgentTimedOut 250)) "timeout after 250 ms" "format AgentTimedOut"
assert str eq (format agent status (AgentFailed "boom")) "failed: boom" "format AgentFailed"
assert str eq (format agent reply (ReplyInt 42)) "42" "format ReplyInt"
assert str eq (format agent reply (ReplyStr "ok")) "ok" "format ReplyStr"
assert str eq (format agent reply (ReplyBool True)) "true" "format ReplyBool True"
assert str eq (format agent reply (ReplyBool False)) "false" "format ReplyBool False"
assert str eq (format agent reply ReplyEmpty) "agent outbox empty" "format ReplyEmpty"
assert str eq (format agent reply ReplyStopped) "agent stopped" "format ReplyStopped"
assert str eq (format agent reply (ReplyTimeout 50)) "agent timeout after 50 ms" "format ReplyTimeout"
assert str eq (format agent reply (ReplyError "bad")) "agent error: bad" "format ReplyError"
c = new counter agent 10
assert ok (is agent alive c)
assert str eq (format agent status (agent status c)) "running" "counter running"
assert str eq (format agent reply (try poll int c)) "agent outbox empty" "empty outbox before send"
assert eq (counter get c) 10
assert eq (counter add c 5) 15
assert eq (counter add c 7) 22
assert str eq (format agent reply (ask int c 8)) "30" "ask int 8 -> 30"
assert str eq (format agent reply (ask int with timeout c 12 200)) "42" "ask int with timeout -> 42"
assert eq (counter reset c) 0
assert eq (counter get c) 0
bs = ask batch int c [1, 2, 3, 4]
assert eq (ag sum ints bs) 20
c2 = new counter agent 100
rel = relay int c c2 5
assert str eq (format agent reply rel) "115" "relay int c (10+5=15) -> c2 (100+15=115)"
st1 = stop agent c
assert str eq (format agent status st1) "stopped" "stop agent returns AgentStopped"
assert eq (is agent alive c) False
assert str eq (format agent status (agent status c)) "stopped" "agent status after stop"
assert str eq (format agent reply (ask int c 1)) "agent stopped" "ask int after stop"
assert str eq (format agent reply (try poll int c)) "agent stopped" "try poll int after stop"
assert str eq (format agent reply (ask int with timeout c 1 50)) "agent stopped" "ask int with timeout after stop"
assert str eq (format agent reply (relay int c c2 1)) "agent stopped" "relay int after stop"
c0 = new counter agent 0
assert int equals (counter get c0) 0 "counter 0 initial"
assert int equals (counter add c0 3) 3 "counter 0 add 3"
stop agent c0
stop agent c2
assert eq (is agent alive c2) False
39.3.5. Esempio 5: Agente di registro append-only (new log agent) e store chiave-valore in memoria tramite scambio di messaggi (new kv agent)
In questo esempio pratico esploriamo in modo esaustivo come si comporta pool in questo blocco funzionale, inclusi input standard, combinazioni di parametri e valori di frontiera:
fn :: test log and kv agents => ()
test log and kv agents =
lg = new log agent "\n"
assert ok (is agent alive lg)
assert str eq (format agent reply (try poll str lg)) "agent outbox empty" "log empty outbox"
assert str eq (log read lg) "" "initial log empty"
assert str eq (log append lg "alpha") "alpha" "log append alpha"
assert str eq (log append lg "beta") "alpha\nbeta" "log append beta"
assert str eq (format agent reply (ask str with timeout lg "gamma" 200)) "alpha\nbeta\ngamma" "ask str with timeout gamma"
assert str eq (log read lg) "alpha\nbeta\ngamma" "log read"
assert str eq (log clear lg) "" "log clear"
assert str eq (log read lg) "" "log read after clear"
b = ask batch str lg ["one", "two"]
assert str eq (ag join strs b) "one|one\ntwo" "ask batch str"
lg2 = new log agent ":"
assert str eq (format agent reply (relay str lg lg2 "three")) "one\ntwo\nthree" "relay str"
stop agent lg
stop agent lg2
assert str eq (format agent reply (ask str lg "x")) "agent stopped" "ask str after stop"
kv = new kv agent
assert ok (is agent alive kv)
assert int equals (kv count kv) 0 "kv count 0"
assert false (kv has kv "host") "kv has host false"
assert str eq (kv put kv "host" "127.0.0.1") "127.0.0.1" "kv put host"
assert str eq (kv put kv "port" "8080") "8080" "kv put port"
assert int equals (kv count kv) 2 "kv count 2"
assert ok (kv has kv "host")
assert ok (kv has kv "port")
assert str eq (kv get kv "host") "127.0.0.1" "kv get host"
assert str eq (kv get kv "port") "8080" "kv get port"
assert str eq (kv keys kv) "host,port" "kv keys"
assert str eq (kv put kv "port" "9090") "9090" "kv overwrite port"
assert str eq (kv get kv "port") "9090" "kv get updated port"
assert int equals (kv count kv) 2 "kv count after overwrite"
assert str eq (kv delete kv "host") "127.0.0.1" "kv delete host"
assert false (kv has kv "host") "kv has host after delete"
assert int equals (kv count kv) 1 "kv count 1"
assert str eq (kv clear kv) "" "kv clear"
assert int equals (kv count kv) 0 "kv count after clear"
stop agent kv
assert false (is agent alive kv) "kv stopped"
39.3.6. Esempio 6: Instradamento deterministico per chiave (pool ask shard), broadcast massivo (pool broadcast), drenaggio non bloccante (pool drain all) e arresto (pool shutdown)
In questo esempio pratico esploriamo in modo esaustivo come si comporta pool in questo blocco funzionale, inclusi input standard, combinazioni di parametri e valori di frontiera:
import agent
import pool
fn :: shard worker (state : Int) (delta : Int) => (Int, Int)
shard worker state delta =
next = state + delta
(next, next)
fn :: ejemplo pool completo => (Int, Int, [Int])
ejemplo pool completo =
w0 = agent shard worker 100
w1 = agent shard worker 200
w2 = agent shard worker 300
p = Pool 3 [w0, w1, w2]
sz = pool size p
-- Enrutamiento determinista por clave: abs(key_hash) % 3
r_a = pool ask shard p 0 5
r_b = pool ask shard p 1 10
-- Difusión (broadcast) a todos los shards del pool
pool broadcast p 1 -> ()
pend = pool drain all p
pool shutdown p -> ()
(sz, r_a + r_b, pend)
39.4. Sotto il cofano: come è costruita pool in Ridgun puro (src/main/ridgun/lib/pool.rg)
Uno dei maggiori vantaggi di ridgun-libs è che non ci sono scatole nere in C. Puoi aprire src/main/ridgun/lib/pool.rg e leggere esattamente come è implementata ogni operazione usando pattern matching, alberi di guardie | / |. e ricorsione di coda (TCO). Vediamo i pezzi chiave della sua implementazione reale:
39.4.1. Implementazione interna: Core Implementation Part 1
Nota come pool.rg strutturi prima le firme fn :: ... => ... e risolva ogni caso tramite equazioni allineate e chiamate di coda:
module :: pool
type AgentPool = Pool Int [Agent]
fn :: pool size AgentPool => Int
pool size (Pool sz _) = sz
fn :: pool agents AgentPool => [Agent]
pool agents (Pool _ ags) = ags
fn :: pool get agent [Agent] Int => Agent
pool get agent (ag:_) 0 = ag
pool get agent (_:rest) idx = pool get agent rest (idx - 1)
fn :: pool abs Int => Int
pool abs x
| x < 0 = 0 - x
| otherwise = x
fn :: pool ask shard AgentPool Int A => B
pool ask shard (Pool size agents) key_hash msg =
(pool abs key_hash) % size -> shard_idx
pool get agent agents shard_idx -> target_ag
ask target_ag msg
fn :: pool broadcast AgentPool A => ()
pool broadcast (Pool _ agents) msg = pool broadcast list agents msg
39.4.2. Implementazione interna: Core Implementation Part 2
Nota come pool.rg strutturi prima le firme fn :: ... => ... e risolva ogni caso tramite equazioni allineate e chiamate di coda:
fn :: pool broadcast list [Agent] A => ()
pool broadcast list [] _ = ()
pool broadcast list (ag:rest) msg =
send msg to ag
pool broadcast list rest msg
fn :: pool drain ready Agent => [B]
pool drain ready ag = pool drain ready loop ag []
fn :: pool drain ready loop Agent [B] => [B]
pool drain ready loop ag acc =
pool drain step ag (try receive from ag) acc
fn :: pool drain step Agent Option [B] => [B]
pool drain step _ None acc = acc
pool drain step ag (Some r) acc = pool drain ready loop ag (acc :: [r])
fn :: pool drain all AgentPool => [B]
pool drain all (Pool _ agents) = pool drain list agents []
fn :: pool drain list [Agent] [B] => [B]
pool drain list [] acc = acc
pool drain list (ag:rest) acc =
ag pool drain ready -> ready
pool drain list rest (acc :: ready)
fn :: pool stop list [Agent] => ()
pool stop list [] = ()
pool stop list (ag:rest) =
stop ag
pool stop list rest
fn :: pool shutdown AgentPool => ()
pool shutdown (Pool _ agents) = pool stop list agents
39.5. Garanzie algoritmiche, memoria RMM1/RMM2 e le 5 Regole d'Oro di pool
- Garanzia algoritmica e di sicurezza: Capacità di coda strettamente limitata (
queued <= max_queue) per proteggere la memoria sotto sovraccarico e distribuzione deterministica tra i worker. - Complessità dello stack $O(1)$ con TCO: Tutti i cicli ricorsivi in
src/main/ridgun/lib/pool.rgsono in posizione di coda, perciòridguncli compila in salti nativi senza crescita dello stack. - Memoria deterministica (
RMM1/RMM2): Zero pause del garbage collector; tutte le strutture intermedie vengono liberate in modo deterministico all'uscita dallo scope. - Verifica continua: Testata in modo esaustivo con
stable checke la suite automatizzatasrc/test/ridgun/test pool.rg.
Le 5 Regole d'Oro quando programmi con pool
- Dichiara
import poolall'inizio del file e usa le funzioni multi-parola con spazi naturali affinché il tuo codice si legga come prosa. - Allinea le tue pipeline di dati con
=e->: concatena le chiamate apoolin passaggi con nomi chiari e lascia chestable formatallinei le colonne. - Sfrutta le funzioni totali di
poolnelle tue guardie|: controlla i valori di ritorno o destruttura gli ADT con pattern matching invece di dare per scontato che l'input esterno sia sempre valido. - Evita di copiare grandi strutture se devi solo consultare un campo: ricorda che in
RMM2gli argomenti di input sono prestati e non incrementano né decrementano i contatori (+0/-0). - Combina
poolcontest(import test): scrivi sempre asserzioni conassert equalsoassert trueper fissare gli invarianti del tuo dominio.
Nel Capitolo 40 passeremo a esplorare in profondità la lib net_agent (La lib net_agent — Supervisore di Connessioni di Rete e Ponte di Eventi Non Bloccante).