Llama 3: Open-Source KI für die nächste Innovationswelle

    • Neu

    Moin Moin!

    Quicky-News:

    Das Open-Source-Modell soll den proprietären Konkurrenten in nichts nachstehen und bald auf verschiedenen Plattformen wie AWS, Google Cloud und Microsoft Azure verfügbar sein. Llama 3 unterstützt eine Vielzahl von Anwendungsfällen mit vortrainierten und fein abgestimmten Sprachmodellen mit 8B- und 70B-Parametern. Meta legt Wert auf den offenen Ansatz und möchte die nächste Innovationswelle im Bereich der künstlichen Intelligenz anstoßen.

    (Adblocker aktiviert?)

    Mehr Infos auf Deutsch

    LIama3

    Mfg: evilware666

    • Neu

    Über Llama 3 habe ich schon im Thread "AI Modelle lokal und ohne API Key nutzen" gepostet.

    Mittlerweile gibt es auch GGUF-Modelle, die per imatrix erstellt wurden. Selbst verwende ich llama.cpp mit diesen Modellen:

    8B:

    bartowski/Meta-Llama-3-8B-Instruct-GGUF · Hugging Face
    huggingface.co

    70B;

    bartowski/Meta-Llama-3-70B-Instruct-GGUF · Hugging Face
    huggingface.co

    In beiden Model Cards gibt es ein Kapitel "Which file should I choose?". Ich verwende meistens die beste Quantisierungsmethode, die auf meiner Hardware läuft.

    Seit TheBloke nicht mehr auf Hugging Face aktiv ist, ist der bartowski-Account zu einer guten Quelle für LLMs geworden.

Jetzt mitmachen!

Sie haben noch kein Benutzerkonto auf unserer Seite? Registrieren Sie sich kostenlos und nehmen Sie an unserer Community teil!

Benutzerkonto erstellen Anmelden