offen/mana-swift-llm
1
0
Fork 0
Code Issues Pull requests Projects Releases Packages Wiki Activity Actions
Swift-Package mit lokalen LLM-Backends (FoundationModels + Gemma 4 via MLX) für alle nativen mana-e.V.-Apps. App-Group-Shared HuggingFace-Cache. — Apache-2.0, Spiegel des Vereins mana.
12 commits 1 branch 2 tags 107 KiB
Find a file
Exact
till 5a25d44bd0 Release v0.4.0 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
2026-06-10 22:42:19 +02:00
Sources feat: ManaAiMeta — geteilter AI-Transparenz-Typ (ManaLLMShared) 2026-06-07 19:03:40 +02:00
Tests/ManaLLMTests BYOK TTS (Phase B): native synthesizeSpeech — OpenAI + Gemini 2026-06-05 17:43:43 +02:00
.gitignore L-1+L-2+L-3: mana-swift-llm Initial — lift aus memoro-native 2026-05-18 22:55:32 +02:00
CHANGELOG.md Release v0.4.0 2026-06-10 22:42:19 +02:00
CLAUDE.md L-1+L-2+L-3: mana-swift-llm Initial — lift aus memoro-native 2026-05-18 22:55:32 +02:00
Package.swift L-1+L-2+L-3: mana-swift-llm Initial — lift aus memoro-native 2026-05-18 22:55:32 +02:00
README.md L-1+L-2+L-3: mana-swift-llm Initial — lift aus memoro-native 2026-05-18 22:55:32 +02:00

README.md

mana-swift-llm

Swift-Package mit lokalen LLM-Backends für alle nativen mana e.V. iOS-/macOS-Apps.

Zwei Library-Products:

  • ManaLLM — Backend-Abstraktion + High-Level-Facade. Backends: Apple Foundation Models, Gemma 4 E2B/E4B (via MLX-Swift), NoOp-Fallback. Router wählt nach Capability automatisch.

  • ManaLLMShared — App-Group-Container-Helper für gemeinsamen HuggingFace-Cache. Apps mit dem group.ev.mana.models- Entitlement teilen heruntergeladene Modelle — eine App lädt, alle anderen lesen.

Schnell-Start

import ManaLLM

@main
struct MeineApp: App {
    init() {
        // HF_HUB_CACHE auf den shared Container setzen.
        ManaLLM.configure()
    }

    var body: some Scene {
        // ...
    }
}

// Irgendwo später:
let summary = await ManaLLM.summarize(longText)
let story = await ManaLLM.generate(
    prompt: "Schreib eine kurze Reise-Story über Konstanz.",
    level: .creative
)
let tags = await ManaLLM.classify(text, into: ["#sport", "#kultur"])

Plattform-Doku