Precios personalizados y regulación de algoritmos

Imagine que la tienda de la esquina tiene todos sus datos personales; saben cuánto vale su casa, qué tarjeta maneja, cuánto ha pagado por viajes y la colegiatura de sus hijos. Con eso, cada vez que usted va a la tienda le cobra diferente que a otros: 50 pesos por un refresco que a la siguiente persona le vende en 6. Aunque parezca un poco loco, esto es justo lo que ya están haciendo varias empresas a través del uso de algoritmos que aprovechan información personal para poder discriminar mejor en sus precios. El estado de Nueva York ha decidido intervenir y se convirtió en la primera jurisdicción mundial en regular los algoritmos de “precios personalizados”.

Las empresas están incrementando el uso de algoritmos para fijar sus precios a una velocidad dramática. Los modelos originalmente servían para reaccionar mejor a cambios de demanda: esto lo hemos visto desde hace tiempo en pagos de medios de transporte, o comercio electrónico, por ejemplo. Usted paga más que el pasajero que va junto en el avión por diversas razones, incluyendo factores como el día de búsqueda, domicilio o moneda, por ejemplo. Este ajuste de demanda ha sido debatido por mucho tiempo y en algunos casos se ha considerado eficiente. Lo que está cambiando es que cada vez más se busca personalizar el precio al consumidor específico y al precio exacto a la disposición a pagar de un individuo usando sus datos, lo que levanta otro tipo de preocupaciones. Según el sapo la pedrada, pero a niveles de uso de datos nunca vistos.

Por la preocupación con el abuso de estos algoritmos y el riesgo de la “sobreindividualización” y el “profiling” comercial, el estado de Nueva York acaba de adoptar una ley que requiere que los comercios den a conocer de manera explícita cuando el precio que recibe el consumidor haya sido determinado por un algoritmo que usa su información personal. Como era de esperarse, esta nueva obligación ha causado un gran revuelo por ser intrusiva y supuestamente causar malentendidos con los consumidores de que se están aprovechando de ellos. El ejemplo de regular este problema específico podría seguirse en varios estados y países.

El tema ha tomado una relevancia aún mayor con motivo de otro cambio legal en el mismo estado (así como en California) que tiene que ver con una reforma a la ley estatal de competencia económica que prohíbe de plano el uso de algoritmos para determinar el precio de renta de inmuebles y en especial la que se base en datos intercambiados entre competidores a través de software, sea de manera directa o a través de terceros. Si bien los acuerdos que pudieran existir entre arrendadores para coordinar precios u ocupación de inmuebles ya se encontraban prohibidos, con estos cambios legales se deja claro que esto es ilegal aun si esto lo hace un algoritmo o la información es proveída por un tercero que maneja esos datos.

Todas estas leyes estatales y las iniciativas de ley federal en Estados Unidos están preocupando a comerciantes en general, y en particular a empresas que desarrollan este tipo de software o asesoran a empresas basándose en datos de consumidores específicos.

Este tema se enmarca en el debate general de la regulación de la inteligencia artificial que ha tomado una enorme relevancia avanzando en Europa y con iniciativas en el mismo Estados Unidos, Reino Unido, China y Japón, entre otros. En México también hay varias iniciativas, aunque con poca tracción. Estas regulaciones normalmente tienen objetivos amplios, pero poco aterrizados. Un pequeño guiño al tema viene en la ley de datos personales que entró en vigor este año y que podría abrir la puerta a los particulares a oponerse a este uso de sus datos.

La solución de informar en la forma en que se está regulando podría ser un interesante primer experimento regulatorio. Cualquier compañía que utilice algoritmos como parte de su forma de determinar el precio deberá estar muy pendiente del desarrollo de estos esfuerzos y su probable copia en otros países y cuidar los temas de competencia, manejo de datos y protección al consumidor.