Nació el 19 de marzo de 1534 en San Cristóbal de La Laguna, Tenerife, España. Fue el tercero de una numerosa familia. Su padre fue alcalde de la ciudad; estaba emparentado con san Ignacio de Loyola. A los 15 años enviaron a José junto a uno de sus hermanos a Portugal, donde estudió en el colegio de Artes, institución de la universidad de Coimbra. Algunos apuntan que pudo influir en esta decisión la ascendencia judía de su madre. Enviarlo allí se entendería como una prevención para su vida, ya que en ese país la temida Inquisición, que hacía estragos en España, no tenía la misma rigidez. Su trayectoria académica fue brillante. Entonces se apreciaron sus singulares dotes para la poesía. Fue época de cruciales decisiones comenzando por la consagración de su virginidad ante una imagen de María.
En 1551, animado por las noticias que san Francisco Javier transmitía en sus cartas, se sintió llamado a la vida misionera y se vinculó a la Compañía de Jesús. Pero padecía severa escoliosis desde que era niño y se acentuó con la misión que le encomendaron: ayudar a los sacerdotes que oficiaban la misa, más de una decena diarias. Tanto tiempo de pie fue agravando la lesión y acarreó de por vida dolores osteoarticulares. Aunque no se quejaba –solamente llevaba una faja para su mejor sostén–, unos comentarios que escuchó acerca de su dolencia le hicieron temer que podría verse obligado a dejar el convento. El provincial Simón Rodríguez, compañero de san Ignacio, lo tranquilizó; no tenía nada que temer. Al final, como él deseaba, fue trasladado a Brasil junto a otros jesuitas.
Llegó a Bahía en 1553 lleno de ardor apostólico, con el anhelo de hender la cruz en aquellas tierras que quiso de antemano. Cristo bendecía ese signo del genuino misionero que parte entusiasmado, lleno de fe. Tanto es así que en unos meses, junto al provincial Manuel de Lóbrega, fundó Piratininga. Determinado a evangelizar a los indios, se estableció junto a ellos. Con la ayuda del padre Auspicueta se familiarizó con la lengua de los tupíes y guaraníes. Acogió como si fueran suyas costumbres y leyendas. A su vez, les enseñó gramática al igual que hizo con los hijos de los portugueses. Fue pionero, tanto en apreciar una raíz común entre todas las lenguas que se hablaban, a la que denominó tupí, como en dar a luz una gramática, diccionario y catecismo tupi-guarani; no fueron sus únicas obras. La vertiente pastoral estuvo presente al menos en dos textos: uno dedicado a confesores y otro para asistencia de los que se hallan en trance de morir. En uno de sus trabajos incluyó un conjunto de sermones y cantos. Fue dramaturgo y autor de manuales de medicina, fauna y flora. Engrosan su labor literaria, poesía y dramas en diversas lenguas. Se le considera iniciador de la historia literaria de Brasil.
Se convirtió en gran defensor de los derechos de los indios a quienes prestó toda su ayuda. En la festividad de san Pablo de 1555 inauguró el colegio que hizo construir. Fue origen de la ciudad de Sâo Paulo. En 1563 fue designado embajador de paz entre los portugueses y los tamoias. Era un pueblo peligroso que practicaba la antropofagia y lo tuvo como rehén durante cinco meses en la aldea de Iperoig. Les enseñó el evangelio sin dejar de encomendarse a Dios insistentemente y a María en cuyo honor escribía en la arena –y grababa en su memoria– un extenso poema latino, publicado en 1663 en Lisboa. Mientras llegaba la paz, amenazaron con matarle en distintas ocasiones. Pero él decía: «Yo sé que no me mataréis, que no ha llegado aún el tiempo de mi muerte». Al final, viendo los prodigios que realizó, fue estimadísimo en la tribu. En 1565 fue ordenado sacerdote. Ese año, junto a Nóbrega, puso los cimientos de la fundación de Río de Janeiro.
Durante una década fue rector del colegio de San Vicente, y en este tiempo no solo predicó a los portugueses con gran fruto, sino que se encargó también de evangelizar a los vecinos indios tapuyas, una tribu difícil y feroz. Su intenso apostolado con los indios discurrió entre las colonias portuguesas de Río y de Espíritu Santo. El dominio de la lengua, su valentía y el amor que profesaba a esos pueblos, a los que alfabetizó y enseñó diversas artes sanándoles humana y espiritualmente, fue admirable y heroico. Afrontó situaciones comprometidas, llenas de angustia y altamente peligrosas. Transitando con un hermano con los pies descalzos por un barrizal, comentó: «Algunos desean que les sorprenda la muerte en varias partes o colegios, conforme al afecto de cada uno, para pasar aquel último trance con mayor ánimo y consuelo, ayudados de la caridad de sus hermanos; pero yo digo que no hay género de muerte mejor que dejar la vida anegada entre el cieno y el agua de estas lagunas, caminando por obediencia y el bien de nuestros prójimos».
Su labor como provincial se caracterizó por el trato caritativo y delicado que dispensó a todos. Se desplazaba con tanta rapidez para visitar a los hermanos, especialmente si debía restablecer la paz entre algunos, que se ha visto en ello un hecho milagroso. Fue un hombre de profunda oración; a veces hasta comiendo se quedaba tan prendido de la presencia de Dios que se olvidaba de la comida. Fue un maestro de la pobreza y de la obediencia, servicial, humilde e incansable trabajador, muy devoto de la Pasión de Cristo. Recibió varios carismas y dones, entre otros el de éxtasis y profecía. Al final le sugirieron que eligiese un lugar para su retiro. Lo rehusó. Había ido a misionar Brasil y allí quería morir. Partió a Reritiba en 1587 junto al padre Guarapari, y sacando fuerzas de flaqueza siguió evangelizando a los indios. Tenía debilidad por los enfermos. Una noche se levantó para asistir a uno de ellos, y sufrió una caída. Su salud se fue agravando durante seis meses y falleció el 9 de junio de 1597, como él mismo vaticinó. Juan Pablo II lo beatificó el 22 de junio de 1980. Francisco lo canonizó el 3 de abril de 2014. En honor del santo, Reritiba modificó su nombre tomando el de Anchieta que mantiene en la actualidad.