Impressie OPEN'24; AI in de Open Source wereld

How ready is Open Source for AI?

Na de koffie met heerlijk verse croissants begon de openings-keynote “How ready is Open Source for AI?” gegeven door Peter Dens, Managing Director van Kangaroot.

De keynote ging over onder andere tools. Een tool die vandaag past, zal waarschijnlijk over een jaar vervangen worden. Daarnaast werd dieper ingegaan op AI; op wat voor data is het model gebaseerd en in hoeverre zijn de resultaten herbruikbaar? En tot slot de redenen waarom projecten falen. 9 van de 10 projecten falen om naar development te gaan, omdat er geen platform is om op te landen.

Maar is Open Source klaar voor AI? Ja en Nee. Want eigenlijk is het nooit echt klaar. Open Source zal ook met AI, zoals AI zelf dat ook doet, steeds moeten blijven itereren over verzamelen van data, analyseren, verbeteren en testen om het steeds beter te maken. Zoals op OPEN’24 zal blijken zijn er al veel organisaties met AI bezig. Met Red Hat Openshift AI en de spelregels die je al kent rondom open source, is het verder aan jou om er wat mee te doen.

Open Source challenges at Smals

Dirk Deridder vertelt over de ontwikkeling van ICT-systemen voor de overheidssector in België. Als enabler hebben zij een initiatief in uitvoering gebracht om een openbaar platform te ontwikkelen met herbruikbare componenten voor de softwareontwikkeling: https://www.ict-reuse.be/nl.

Dirk benadrukt het belang van imagescanning (known én Unknown vulnerabilities), controles op waar de software vandaan komt (misschien is de software uit een land afkomstig die ‘onder de loep ligt’?) en de impact die storingen kunnen veroorzaken.

Verschillende uitspraken die me bij bleven:

– commit to high quality

– we don’t need enterprise support for every component

– micro-communities CAN make a difference

Empowering AI’s potential: Open Source’s Frontier in Innovation

Red Hat is ook aanwezig en houdt een presentatie over AI. Maarten van de Ferre en Tom d’Hont vertellen over “Empowering AI’s potential”. Hierbij gaan ze in op het product Red Hat Openshift AI. Voor mij ‘nog’ niet bekend genoeg materiaal om er wat over op te schrijven, maar interesse is zeker gekweekt! Kijk er dus vooral een keer naar mocht je nieuwsgierig zijn.

NGINX One;  Your multi tool kit to deploy and scale applications in hybrid and multi-cloud environments

Ranaud Larsen vertelt over NGNIX One. NGINX One is het enige applicatieleveringssysteem dat de mogelijkheden van NGINX open source en NGINX Plus combineert met operationele inzichten die zijn ontworpen om de complexiteit te verminderen die wordt geleverd via een SaaS-console. Het is als het ware een ‘cockpit’ om alle NGINX-administratie in je organisatie uit te kunnen voeren.

“View, monitor, secure and configure you NGINX fleet”

Aardigheidje, wist je dat F5 ooit begon als gaming company? Toen men de behoefte had aan specifieke loadbalancers, zijn ze daar zelf mee begonnen en is op gegeven moment dat hun corebusiness geworden.

Automation unleashed with EDA (Event Driven Automation)

Christian Jung (Red Hat) demonstreert hoe je in VSCode de Ansible plug-in kunt gebruiken en via (een licensed!) koppeling met LightSpeed, AI voor jou code kan laten maken. Je hoeft in je Ansible playbook slechts de “name:” in te vullen van een rule en LightSpeed biedt jou de code aan als aanbeveling.

Ja, zelfs een comment (#Install apache) en LightSpeed maakt direct acties aan als installatie van de https package, het starten en enablen van de service en het openen van de firewall!

Er wordt wel gewaarschuwd voor de gevaren om zomaar recommendations aan te nemen. De developer zal altijd moeten blijven snappen wat er staat, maar LightSpeed maakt het leven wel makkelijker.

En dan de EDA tool. De EDA is in staat via één of meer integraties naar events te luisteren (Kafka, Dynatrace, AWS CloudTrail, en meer) en er op te acteren. Een heel aardige demo van het aanmaken van een AWS instance, waarna een Ansible playbook automatisch configuraties toevoegt, verbetert (bijvoorbeeld een networkpolicy) of zelfs terug kan draaien als iets bijvoorbeeld in strijd is met company-policy.

Secure your Multi-Cloud workload with Neuvector

Jurriën Bloemen van SUSE gaf een demo over de platform-agnostische aanpak van Neuvector. Enkele uitspraken waren:
– Patching is not enough
– Prevent running unscanned images or images with vulnerabilities
– Zero trust traffic
–  Bij het configureren van Neuvector kan je die in Monitoring danwel Enforcing mode laten draaien.

Jurriën deelde ook een mooie visualisatie met netwerktraffic in het cluster. Kende je de termen “east/west traffic” en “north/south traffic” al? Ze betekenen respectievelijk netwerkverkeer tussen pods (binnen je cluster) en netwerkverkeer in- en uit-gaande van je cluster.

Managing tradeoffs between cost and coverage for Observability logs

De laatste track was van Ward Bekker (GrafanaLabs). Deze presentatie draait om Grafana Loki; Instrument/Collect/Index/Store/Query and Alert. Er staat een update van Loki op komst (v3) die beloofd een veelvoud aan performance winst bij query’s op te moeten leveren. Onder de motorkap worden bloomfilters toegepast om nog sneller resultaten te kunnen tonen in je dashboard, zeker bij een “needle-in-a-haystack-search”

“More data does not mean better observability”

Wist je dat er ook een logcli bestaat om op de commandline je logging te kunnen querien? In Grafana Loki kan ook Json logging getoond worden. Er bestaat daarin een “parsejon” optie die het json object “parse-on-read” uitvoert. Het is makkelijk dat het dus ook werkt op reeds eerder gearchiveerde logging.

“Comedy vs ChatGPT”

En ter afsluiting van de dag was de “Comedy vs ChatGPT” waar de standup comedian Karan Karthik’s zijn acte de présence gaf. Zijn grappen werden niet alleen door het menselijke publiek, maar ook door ChatGPT beoordeeld! We waren het er al snel met z’n allen over eens; ChatGPT maakt het er niet beter op. De conclusie? “AI still can’t replace humans! (fortunately!!)”

Ik kijk nu al uit naar alle interessante sessies van volgend jaar. Wie weet waar AI dan staat. Hopelijk tot bij OPEN’25!