Luyendyk a commencé à courir au début des années 1970, remportant plusieurs titres nationaux néerlandais. En 1977, il remporte le championnat européen de Super Vee, et passe à la Formule 3. D’autres succès lui échappent jusqu’à ce qu’il s’installe aux États-Unis en 1984, où il remporte immédiatement le championnat Super Vee.
Avec l’aide du sponsor Provimi Veal, Luyendyk effectue sa première saison complète de Champ Car en 1985, remportant le titre de recrue de l’année à la fois pour la saison et pour les 500 miles d’Indianapolis. Obtenant un parrainage supplémentaire de Domino’s Pizza (et changeant son numéro de course en 30, car à l’époque Domino’s garantissait à ses clients que les commandes de livraison arriveraient en 30 minutes ou moins), il remporte sa première victoire dans la série cinq ans plus tard, en 1990, lors de la course la plus importante de la série, avec une vitesse moyenne record de 185,981 mph (299,307 km/h). Luyendyk a remporté l’Indianapolis 500 de 1990 pour Doug Shierson Racing. Son record de vitesse moyenne, qui a tenu pendant 23 ans, a finalement été battu lors du 97e Indianapolis 500 de 2013 par Tony Kanaan, avec une vitesse moyenne de 187,433 mph (301,644 km/h).
Luyendyk a continué à être performant à Indianapolis, réalisant les pole positions en 1993, 1997 et 1999, et se retirant de la course alors qu’il était en tête à trois reprises. En 1995, Luyendyk contrôle la course au début jusqu’à ce qu’un incident avec Scott Sharp lui fasse perdre plusieurs tours. Pour le reste de la course, Luyendyk est capable de rattraper tous ses tours et de battre de justesse le futur vainqueur Jacques Villeneuve à la ligne de démarcation pour récupérer son dernier tour et terminer sur le tour de tête.
En 1996, il établit le record du tour de qualification à 237,498 mph (382,216 km/h), bien qu’il ne soit pas parti en pole car il s’est qualifié le deuxième jour des essais chronométriques. Il remporte les 500 miles d’Indianapolis 1997 en partant de la pole position devant son coéquipier de Treadway Racing, Scott Goodyear. La course s’est terminée par une controverse lorsque, lors de la dernière reprise, les drapeaux blanc et vert ont été agités pour mettre fin à un avertissement, mais les feux jaunes sont restés allumés, Luyendyk s’échappant pour remporter la victoire alors que les autres concurrents étaient désorientés. Une arrivée similaire impliquant une erreur similaire a failli enlever une victoire à Luyendyk deux semaines plus tard.
Luyendyk a également été sélectionné pour participer aux éditions 1992, 1993 et 1998 de l’International Race of Champions.
Il se retire de la course après la saison 1999 et, pendant une courte période, rejoint ABC Sports en tant que commentateur couleur. Il est revenu à l’Indy 500 en 2001 et 2002. En 2003, il a participé à Indianapolis pour la dernière fois. Il est victime d’un accident pendant les essais et ne tente pas de se qualifier.
Luyendyk a également remporté les 24 heures de Daytona et les 12 heures de Sebring. Son fils, Arie Jr, est un coureur tout-terrain et Indy Lights.
Le dernier virage du circuit de Zandvoort, aux Pays-Bas, porte son nom. En 1999, il a reçu le prix Sagamore of the Wabash, qui reflète sa carrière en Indy 500. En 2016, Luyendyk a été choisi comme chef des commissaires pour la série IndyCar aux côtés de ses collègues coureurs Max Papis et Dan Davis.
Il a été choisi comme chef des commissaires pour la série IndyCar.