[ad_1]
NEW YORK: Burgemeester van New York, Eric Adams, verdedigt de nieuwe kunstmatige-intelligentie-chatbot van de stad, die de afgelopen dagen is betrapt op het geven van verkeerde antwoorden of advies aan ondernemers die, indien opgevolgd, zouden leiden tot het overtreden van de wet.
Toen de MyCity-chatbot in oktober als pilot werd gelanceerd, werd hij aangeprezen als het eerste stadsbrede gebruik van dergelijke AI-technologie, iets dat bedrijfseigenaren ‘bruikbare en betrouwbare informatie’ zou geven als antwoord op vragen die in een online portal werden getypt.
Dat is niet altijd het geval gebleken: journalisten van onderzoeksbureau The Markup meldden vorige week voor het eerst dat de chatbot de fout in ging. Het adviseerde ten onrechte dat werkgevers een deel van de fooien van hun werknemers konden innen, en dat er geen regelgeving bestond die bazen verplichtte om wijzigingen in het rooster van werknemers op de hoogte te stellen.
“Op sommige gebieden is het verkeerd, en we moeten het repareren”, zei Adams, een democraat, dinsdag tegen verslaggevers, waarbij hij benadrukte dat het een proefprogramma was. “Elke keer dat je technologie gebruikt, moet je deze in de echte omgeving plaatsen om de knikken glad te strijken.”
Adams is een fervent pleitbezorger geweest voor het inzetten van ongeteste technologie in de stad, met een optimisme dat niet altijd gerechtvaardigd is. Hij plaatste vorig jaar een vaag eivormige robot van 400 pond in het metrostation Times Square, waarvan hij hoopte dat deze de politie zou helpen misdaad af te schrikken; Ongeveer vijf maanden later werd het buiten gebruik gesteld, waarbij pendelaars opmerkten dat het nooit iets leek te doen en dat het geen trappen kon gebruiken.
De chatbot bleef donderdag online en gaf nog wel eens foute antwoorden. Het zei dat winkeleigenaren vrij waren om zonder contant geld te gaan, blijkbaar zich niet bewust van de wet van de gemeenteraad uit 2020 die winkels verbiedt om contant geld te weigeren. Het land denkt nog steeds dat het minimumloon van de stad $15 per uur bedraagt, hoewel dit vanaf 2024 is verhoogd naar $16.
De chatbot, die afhankelijk is van de Azure AI-service van Microsoft, lijkt op een dwaalspoor te zijn gebracht door problemen die veel voorkomen bij zogenaamde generatieve AI-technologieplatforms zoals ChatGPT, waarvan bekend is dat ze soms dingen verzinnen of onwaarheden beweren met HAL-achtig vertrouwen. Noch Microsoft, noch het stadhuis reageerden op vragen over de oorzaak van de fouten en hoe deze kunnen worden verholpen.
De stad heeft de disclaimers op de MyCity-chatbotwebsite bijgewerkt, waarbij wordt opgemerkt dat “haar antwoorden soms onnauwkeurig of onvolledig kunnen zijn” en bedrijven wordt opgedragen “de antwoorden niet te gebruiken als juridisch of professioneel advies”.
Andrew Rigie, die pleit voor duizenden restauranteigenaren als directeur van de NYC Hospitality Alliance, zei dat hij bedrijfseigenaren had gehoord die verbijsterd waren over de reacties van de chatbot.
“Ik prijs de stad voor haar pogingen om AI te gebruiken om bedrijven te helpen, maar het moet werken”, zei hij, waarbij hij waarschuwde dat het volgen van enkele richtlijnen van de chatbot ernstige juridische gevolgen zou kunnen hebben. “Als ik een vraag stel en vervolgens terug moet naar mijn advocaten om te weten of het antwoord wel of niet juist is, schiet dat voorbij aan het doel.”
[ad_2]
Source link
