Beiträge von A.E. im Thema „AI Modelle lokal und ohne API Key nutzen“

    Hallo,
    in diesem Beitrag hatte ich schonmal auf tgpt aufmerksam gemacht.

    Heute möchte ich auf zwei weitere AI Tools aufmerksam machen, die

    - lokal - ohne Internet laufen
    - kostenlos sind
    - keine Registrierung oder einen API Key benötigen

    :)

    1. https://gpt4all.io/index.html
    2. https://github.com/Mozilla-Ocho/llamafile

    Es sind jeweils sehr große Daten herunter zu laden (Modelle) wo das wissen quasi gespeichert ist.
    Von 3GB bis 30GB steht da einiges zur Verfügung.

    Hier ein Beispiel mit einem 4Gb großen Modell, welches sogar den Opel Manta kennt ...
    man beachte Lokal, ohne ins Internet zu schauen ;)


    man startet einfach, wie im git beschrieben die llama Datei und alles weitere läuft dann in einem Browser Fenster - sogar recht schnell.
    PS: Der erste Manta hatte laut Wikipedia nur 60PS - daher hier noch ein kleiner Hinweis: NIE die Angaben solcher AI Modelle einfach so übernehmen!