feat(web): On-device ML runtime — transformers.js #172

New issue

Closed

opened 2026-05-03 00:57:34 +02:00 by admin-mrrm · 0 comments

admin-mrrm commented

2026-05-03 00:57:34 +02:00

Owner

Ziel

On-device Inferenz im Browser via transformers.js, ohne dass Mail-Inhalte externe Server erreichen.

Library

@xenova/transformers (WASM + WebGPU)

Aufgaben

Abhängigkeit einbinden
ModelManager-Service: lazy Download beim ersten Mail-Scan, Fortschrittsanzeige im UI
Modell im Browser-Cache (IndexedDB) halten
Schnittstelle: suggest(mailSnippet: string, existingTags: string[]): Promise<string[]>
Fallback auf WASM wenn kein WebGPU verfügbar

Hinweise

50–400 MB Download akzeptabel, aber nur einmalig
Fortschrittsanzeige beim ersten Laden Pflicht

## Ziel On-device Inferenz im Browser via transformers.js, ohne dass Mail-Inhalte externe Server erreichen. ## Library - `@xenova/transformers` (WASM + WebGPU) ## Aufgaben - Abhängigkeit einbinden - `ModelManager`-Service: lazy Download beim ersten Mail-Scan, Fortschrittsanzeige im UI - Modell im Browser-Cache (IndexedDB) halten - Schnittstelle: `suggest(mailSnippet: string, existingTags: string[]): Promise<string[]>` - Fallback auf WASM wenn kein WebGPU verfügbar ## Hinweise - 50–400 MB Download akzeptabel, aber nur einmalig - Fortschrittsanzeige beim ersten Laden Pflicht