Künstliche Intelligenz (KI) kann beim Formulieren von Anforderungen, beim Erstellen eines Programmentwurfes und beim Erklären von Code unterstützen. Für Grassroot IT eröffnet dies einen weiteren Weg, Fachwissen in eine nutzbare Anwendung zu überführen. Die Verantwortung für Zweck, Daten und fachliche Ergebnisse bleibt bei der Organisation.
Mit einer prüfbaren Aufgabe beginnen
Eine hilfreiche Aufgabenbeschreibung nennt Eingaben, gewünschte Ergebnisse und Grenzen. Statt allgemein eine Auswertung anzufordern, wird beispielsweise festgelegt, welche Datensätze einbezogen werden, wie mit fehlenden Werten umzugehen ist und welche Gesamtsumme für ein kleines Beispiel erwartet wird. Damit entsteht ein Maßstab für die spätere Prüfung.
Diese Erwartungen werden aus dem Fachproblem abgeleitet. Wenn das selbe System sowohl den Programmcode als auch sämtliche Sollwerte erzeugt, können beide denselben Irrtum übernehmen. Bekannte richtige Ergebnisse und fachlich begründete Grenzfälle bilden deshalb einen unabhängigen Bezugspunkt.
Kleine Änderungen verstehen und prüfen
Der Entwurf wird in überschaubaren Schritten aufgebaut. Nach jedem Schritt wird geprüft, welche Verarbeitung hinzugekommen ist und ob die bisherigen Ergebnisse weiterhin stimmen. Bei einem Makro für Microsoft Excel oder einer Anwendung in Microsoft Access sollten insbesondere Datei- und Datenbankzugriffe verständlich sein, bevor die Lösung mit echten Betriebsdaten eingesetzt wird.
Erklärungen des erzeugten Codes helfen beim Verständnis. Sie ersetzen die Prüfung seines Verhaltens nicht. Dazu gehören auch ungeeignete Eingaben, wiederholte Ausführung und unterbrochene Abläufe. Ein Prototyp wird mit seinen bekannten Einschränkungen gekennzeichnet, bis der vorgesehene Prüf- und Freigabeweg abgeschlossen ist.
Daten und Betrieb früh berücksichtigen
Für externe KI-Dienste werden nur Daten verwendet, deren Verarbeitung dafür freigegeben ist. Zugangsdaten, vertrauliche Geschäftsdaten und personenbezogene Daten benötigen die jeweils vorgesehenen Schutz- und Freigabeverfahren. Auch die Rechte an verwendeten Bestandteilen und die Abhängigkeit von einem bestimmten Dienst werden geklärt.
Eine Anwendung, die im laufenden Betrieb selbst einen KI-Dienst abfragt, stellt zusätzliche Anforderungen: Ergebnisse können schwanken, Kosten und Verfügbarkeit hängen vom Dienst ab, und für wichtige Entscheidungen kann eine menschliche Prüfung erforderlich sein. Diese Fragen werden im Lebenszyklus der Anwendung mitgeführt.
Weiterführende Quelle
Das National Institute of Standards and Technology (NIST) beschreibt im Secure Software Development Framework (SSDF), Version 1.1 allgemeine Praktiken für sichere Softwareentwicklung, die in vorhandene Entwicklungsabläufe integriert werden können. Die Empfehlungen dieses Beitrags übertragen den Gedanken überprüfbarer Arbeitsschritte auf die Entwicklung im Fachbereich.