Când roboții nu respectă scenariul. Incident cu un robot într-un restaurant din California, care amintește de riscurile reale ale AI

Un incident recent la un restaurant Haidilao din California a scos la iveală riscurile practice ale sistemelor AI în medii cotidiene. Un robot umanoid, AgiBot X2, a început să se miște haotic în timpul unei prezentări, provocând daune și necesitând intervenția angajaților pentru a-l opri. Deși compania a declarat că robotul nu a avut o defecțiune, ci a fost afectat de spațiul restrâns, incidentul ridică întrebări despre protocoalele de siguranță și sistemele de control în situații reale. În plus, incidentul subliniază importanța unor sisteme de supraveghere umană rapide și eficiente, precum și a designului simplu al roboților, care poate reduce riscurile. Pe măsură ce AI avansează în medii operaționale, accentul trebuie să se mute de la capacitate la fiabilitate, deoarece riscurile cele mai mari sunt adesea cele practice și imediate. Această situație este un semnal de alarmă pentru companiile care adoptă AI și robotică, evidențiind necesitatea testării în condiții reale și a unor soluții de design mai sigure.