KI-Extension Jupyter AI bearbeitet und erstellt Jupyter Notebooks
Die neue Extension Jupyter AI nutzt große Sprachmodelle, um Code in Notebooks zu erklären, zu generieren, zusammenzufassen und Fehler zu korrigieren.
(Bild: Besjunior/Shutterstock.com)
Project Jupyter hat die Extension Jupyter AI als offizielles Subprojekt ins Leben gerufen. Die Open-Source-Erweiterung bietet ein Chat-Interface und stattet Jupyter Notebooks mit Fähigkeiten generativer Künstlicher Intelligenz (KI) aus, um bestehende Notebooks zu bearbeiten und zu erklären sowie neue zu erstellen.
Dazu setzt Jupyter AI das Verwenden der webbasierten Nutzeroberfläche JupyterLab voraus, greift auf große Sprachmodelle (LLM) von Anbietern wie Open AI, AWS und Anthropic zurück und soll Wert auf Datenschutz legen. Die Extension bietet zwei Möglichkeiten zur Interaktion: entweder per Chat-UI oder per magischem Befehl %%ai.
Notebook-Änderungen durch Gespräche mit Jupyternaut
Jupyter AI stellt ein Chat-Interface zur Verfügung, in dem User mit Jupyternaut kommunizieren können. Bei Jupyternaut handelt es sich um einen Gesprächsagenten mit einem User-gewählten Sprachmodell, der vor allem via Text kommuniziert. Er kann jedoch auch mit Dateien in JupyterLab interagieren und deren Inhalte in seine Antworten einbeziehen sowie Ausgaben in Notebooks einfügen oder neue Notebooks generieren.
Als mögliches Anwendungsbeispiel nennt das Entwicklungsteam, Code aus einem Notebook in einen Prompt einzufügen und eine Erklärung anzufragen. Daneben kann Jupyternaut den Code verändern, Fehler darin feststellen und wahlweise den markierten Abschnitt ersetzen. Project Jupyter betont jedoch, dass Entwicklerinnen und Entwickler jeglichen KI-generierten Code vor dem Ausführen selbst überprüfen sollten, so wie sie es auch mit dem Code einer anderen Person tun würden.
In diesem Beispiel erhält Jupyternaut die Anweisung, bestehenden Code mit Kommentaren umzuschreiben. Er sendet dazu den Code an das gewählte Sprachmodell und ersetzt die Auswahl mit dessen Ausgabe:
(Bild: Project Jupyter)
(Bild: Project Jupyter)
Um ein komplett neues Notebook zu erstellen, dient der Befehl /generate mit einer zugehörigen Textbeschreibung. Mithilfe des verwendeten Sprachmodells wird Jupyternaut das Workbook benennen und mit Markdown sowie Codezellen befüllen, was einige Minuten in Anspruch nehmen kann. Während des Wartens lässt sich das Chat-UI weiterhin verwenden. Auch hier weist Project Jupyter darauf hin, dass jeglicher Code im neu generierten Notebook vor dem Ausführen zu prüfen ist.
(Bild: Project Jupyter)
Zu den weiteren Fähigkeiten von Jupyternaut zählen das Lernen von lokalen Dateien via /learn und das Beantworten von Fragen darüber via /ask.
Bedienung per magischem Befehl
Neben dem Chat-Interface erlaubt Jupyter AI das Verwenden sogenannter magischer Befehle, die sich in Notebookzellen und im IPython-Kommandozeilen-Interface nutzen lassen. Dazu ist zunächst die Magics-Extension mittels %load_ext jupyter_ai_magics zu laden. Anschließend lässt sich Jupyter AI mit dem magischen Befehl %%ai nutzen. Informationen dazu bietet %ai help.
%%ai lässt sich überall dort verwenden, wo der IPython-Kernel laufen kann, darunter JupyterLab, Notebook, IPython, Colab und Visual Studio Code.
Entstehung, Anbindung und Installationshinweise
Jupyter AI entspringt der Feder von fünf AWS-Mitarbeitern, die zu Project Jupyter beitragen und teils zu den Gründungsmitgliedern gehören oder Mitglieder des JupyterLab Council sind. Wie die Entwickler betonen, haben sie Jupyter AI unter Berücksichtigung verantwortungsvoller KI und Datenschutz entwickelt. Es soll ein Sprachmodell nur dann kontaktieren oder Daten dorthin übermitteln, wenn Anwenderinnen und Anwender das explizit wünschen.
Als anbieterneutrales Tool kann Jupyter AI derzeit mit den großen Spachmodellen von AI21, Anthropic, AWS, Cohere, HuggingFace Hub und OpenAI umgehen. Zusätzliche Sprachmodelle sollen folgen.
Um Jupyter AI zu verwenden, muss JupyterLab installiert sein. Jupyter AI 1.0 ist ausschließlich auf JupyterLab 3 ausgelegt, Jupyter AI 2.0 ausschließlich auf JupyterLab 4, wobei das Entwicklungsteam Letzteres empfiehlt.
Die Extension lässt sich via pip beziehen:
pip install 'jupyter-ai>=1.0,<2.0' # beim Verwenden von JupyterLab 3
pip install jupyter-ai # beim Verwenden von JupyterLab 4Weitere Informationen zu Jupyter AI finden sich in einem Blogeintrag sowie im GitHub-Repository und auf der Website des Projekts.
(mai)