En 1989 fue nombrado director de Tecnología del Instituto de Ingeniería del Conocimiento (IIC), desde donde lideró la creación del Instituto, basado en un modelo colaborativo de innovación entre empresas y universidad. Hoy, después de 20 años, funciona de forma autónoma generando sus propios recursos a través de soluciones implantadas en empresas. En 1990 fue nombrado director de Tecnología de Desarrollo de Software de IBM España y, un año después, asumiría la dirección general de la empresa LAB 2000, filial de IBM dedicada al desarrollo de software.

En 1994 regresaría a la empresa matriz, para liderar la línea de negocio AIX de IBM España. Posteriormente, tras diversas responsabilidades internacionales, en 1997 fue nombrado vicepresidente de Operaciones de IBM Global Services EMEA, con sede en París, dirigiendo las operaciones de negocio de servicios profesionales de IBM en Europa, Oriente Medio y Africa. Durante este periodo lideró el diseño operativo de la Organización mundial de servicios de IBM, en línea con la transformación de IBM en una empresa orientada a las soluciones integradas.

En el año 2000, a su regreso a España, fue nombrado responsable del negocio de servicios en España y Portugal, dirigiendo IBM Global Technology Services, y, desde 2005 incorporó también bajo su liderazgo el negocio en Grecia, Israel y Turquía. En 2007 fue nombrado Director General de IBM Global Technology Services SouthWest Europe, dirigiendo el negocio de Servicios de Infraestructuras Tecnológicas para Francia, Italia, Bélgica, Holanda, Luxemburgo, España, Portugal, Grecia e Israel. Entre 2000 y 2009, asimismo, fue presidente ejecutivo de Ingenieria de Software Avanzado, S.A., INSA, empresa participada por IBM y dedicada a la prestación de servicios de tecnologías de la información en los mercados de España y Portugal.

En 2009 fue nombrado presidente de IBM España, Portugal, Grecia e Israel, responsabilidad que desempeño hasta 2013, cuando fue nombrado Director General de IBM Global Technolgu Services para todo Europa. Asi mismo paso a formar pare del equipo de estrategia corporativa de IBM.

En 2017 fue promocionado a Director General de IBM Europa asumiendo la totalidad del negocio de IBM en toda Europa. Responsabilidad de desempeño hasta 2019 en el que fue nombrado Senior Vice-President of IBM Gobal Technology Services y officer de IBM. En este ultimo puesto lidero la transformacion y separación de este segmento de negocio creando una nueva compañía independiente, Kyndryl.

Junto a sus responsabilidades ejecutivas en IBM, Juan Antonio Zufiria tiene una activa participación en destacados foros empresariales, académicos e institucionales.

Desde el año 2004 hasta 2014 fue Presidente del Club Excelencia en Gestión, asociación que agrupa a más 300 empresas cuyo fin es mejorar la competitividad de la empresas españolas en base a las mejores prácticas en la gestión empresarial, siendo actualmente Presidente de Honor del club

Ha sido patrono de la fundación General de la Universidad Autónoma de Madrid y miembro de instituciones académicas y empresariales como el Consejo Profesional ESADE; el IE Business Leadership Forum; el Alto Consejo Consultivo del Instituto de la Ingeniería de España; el Patronato de la Fundació Privada Barcelona Digital Centre Tecnòloig; el Patronato del Real Instituto Elcano; el Patronato de COTEC; el Patronato de la Real Academia de la Lengua Española; la Junta de Gobierno de la American Chamber of Commerce; y el Comité Ejecutivo de la Fundación Ciencia y Desarrollo (CYD).

En su años como investigador al inicio de su carrera, publicó 24 estudios científicos y fue referente para las siguientes revistas científicas: Journal of Fluid Mechanics, Physics of Fluids, Studies in Applied Mathematics y Journal on Computational Physics.

Entre 2004 y 2009 fue profesor en el Master de Dirección de Empresas Tecnológicas de la Nebrija Business School. Ha impartido diversas lecciones magistrales en universidades españolas y es un conferenciante habitual en cursos e iniciativas académicas del Instituto de Empresa, el IESE y ESADE.