Luyendyk comenzó a competir a principios de los años 70, ganando varios títulos nacionales holandeses. En 1977, ganó el campeonato europeo de Super Vee y se pasó a la Fórmula 3. El éxito le fue esquivo hasta que se trasladó a Estados Unidos en 1984, donde inmediatamente ganó el campeonato de Super Vee.
Con la ayuda del patrocinador Provimi Veal, Luyendyk corrió su primera temporada completa de Champ Car en 1985, ganando el título de novato del año tanto en la temporada como en las 500 millas de Indianápolis. Consiguiendo un patrocinio adicional de Domino’s Pizza (y cambiando su número de carrera por el 30, ya que en aquella época Domino’s garantizaba a sus clientes que los pedidos de entrega llegarían en 30 minutos o menos), su primera victoria en la serie llegó cinco años después, en 1990, en la carrera más importante de la serie, con una velocidad media récord de 185,981 mph (299,307 km/h). Luyendyk ganó las 500 Millas de Indianápolis de 1990 para Doug Shierson Racing. Su récord de velocidad media, que se mantuvo durante 23 años, fue finalmente superado en la 97ª edición de las 500 Millas de Indianápolis de 2013 por Tony Kanaan, con una velocidad media de 187,433 mph (301,644 km/h).
Luyendyk siguió teniendo un buen rendimiento en Indianápolis, marcando la pole en 1993, 1997 y 1999, y retirándose de la carrera mientras lideraba en tres ocasiones. En 1995, Luyendyk controló la carrera al principio hasta que un incidente con Scott Sharp le hizo perder varias vueltas. Durante el resto de la carrera, Luyendyk fue capaz de recuperar todas sus vueltas y superar a duras penas al eventual ganador Jacques Villeneuve en la franja para recuperar su última vuelta y terminar en la vuelta de cabeza.
En 1996, estableció el récord de vuelta de clasificación a 237,498 mph (382,216 km/h), aunque no salió en la pole porque se clasificó en el segundo día de pruebas cronometradas. Ganó las 500 Millas de Indianápolis de 1997 desde la pole, superando a su compañero de equipo en Treadway Racing, Scott Goodyear. La carrera terminó con polémica cuando en la última reanudación la bandera blanca y verde ondeó para poner fin a una precaución, pero las luces amarillas permanecieron encendidas y Luyendyk se alejó para ganar mientras los otros competidores se confundían. Un final similar que implicaba un error similar casi le quitó la victoria a Luyendyk dos semanas después.
Luyendyk también fue seleccionado para participar en las ediciones de 1992, 1993 y 1998 de la Carrera Internacional de Campeones.
Se retiró de las carreras después de la temporada de 1999, y durante un corto tiempo, se unió a ABC Sports como comentarista en color. Volvió a la Indy 500 en 2001 y 2002. En 2003, participó en Indianápolis por última vez. Sufrió un accidente durante los entrenamientos y no intentó clasificarse.
Otras victorias de Luyendyk incluyen las 24 horas de Daytona y las 12 horas de Sebring. Su hijo, Arie Jr., es piloto de todoterreno y de la Indy Lights.
La última curva del circuito de Zandvoort, en Holanda, lleva su nombre. En 1999, recibió el premio Sagamore of the Wabash, que refleja su carrera en la Indy 500. En 2016, Luyendyk fue seleccionado como comisario jefe de la IndyCar Series junto a su compañero Max Papis y Dan Davis.