Η λέξη «Αλκατράζ» προέρχεται από την ισπανική λέξη για το θαλασσοπούλι. Έτσι ονόμασε ο ισπανός εξερευνητής Χουάν Μανουέλ ντ' Αγιάλα τη μία από τις τρεις βραχονησίδες που βρίσκονται στον κόλπο του Σαν Φρανσίσκο, όταν κατέπλευσε στην περιοχή και τη χαρτογράφησε.

Λόγω της στρατηγικής του σημασίας, το 1850 ο αμερικανικός στρατός μετέτρεψε το νησάκι σε οχυρό, για την προστασία του λιμανιού. Προς τα τέλη της δεκαετίας, το φρούριο άρχισε να δέχεται και στρατιωτικούς κρατουμένους, οι οποίοι από το 1909 έως το 1911 αξιοποιήθηκαν για την ανέγερση μιας νέας στρατιωτικής φυλακής, που επρόκειτο να μείνει στην ιστορία ως «Ο Βράχος».

Για περισσότερα από 80 χρόνια χρησιμοποιήθηκε για στρατιωτικούς σκοπούς. Στις 12 Οκτωβρίου του 1933 πέρασε στη δικαιοδοσία του αμερικανικού Υπουργείου Δικαιοσύνης και την επόμενη χρονιά μετατράπηκε σε ομοσπονδιακή φυλακή υψίστης ασφαλείας. Τα εγκαίνει έγιναν την πρωτοχρονιά του 1934 και οι πρώτοι κατάδικοι έφτασαν στις 11 Αυγούστου 1934.

Εκεί στέλνονταν οι πιο επικίνδυνοι κακοποιοί και όσοι αρνούνταν να προσαρμοστούν στους κανόνες των κοινών φυλάκων. Στα 29 χρόνια λειτουργίας της, τρόφιμοί της υπήρξαν ορισμένοι από τους πλέον διάσημους γκάνγκστερ, όπως ο Αλ Καπόνε.

Στο Αλκατράζ, οι κρατούμενοι είχαν τέσσερα δικαιώματα: τροφή, ένδυση, στέγη και ιατροφαρμακευτική περίθαλψη. Οποιοδήποτε άλλο προνόμιο έπρεπε να το κερδίσουν. Στα προνόμια αυτά συμπεριλαμβάνονταν οι επισκέψεις συγγενικών προσώπων, η πρόσβαση στη βιβλιοθήκη των φυλακών, ψυχαγωγικές δραστηριότητα όπως ζωγραφική, μουσική, κ.α. Από τον Βράχο δεν μπόρεσε ποτέ να αποδράσει κανείς. Όσοι το επεδίωξαν, είτε πυροβολήθηκαν και σκοτώθηκαν από τους φύλακες, είτε πέθαναν στα παγωμένα νερά του Ειρηνικού Ωκεανού.

Η φυλακή του Αλκατράζ έκλεισε στις 21 Μαρτίου του 1963. Το κόστος συντήρησης της ήταν τόσο υψηλό, που προτιμήθηκε η κατασκευή μιας νέας στην ηπειρωτική χώρα. Μετά το κλείσιμό της, το νησάκι εγκαταλείφθηκε, παρότι υπήρξαν διάφορες ιδέες για την αξιοποίησή του. Μεταξύ άλλων, προτάθηκε να συμπεριληφθεί στα μνημεία των Ηνωμένων Εθνών ως ένα άλλο Άγαλμα της Ελευθερίας, ή να μετατραπεί σε ξενοδοχειακό συγκρότημα και εμπορικό κέντρο.

Το 1969 διεκδικήθηκε από μία ομάδα ιθαγενών, θέλοντας να δημιουργήσουν σ' αυτό ένα ινδιάνικο πολιτιστικό κέντρο. Η προσπάθειά τους, όμως, απέτυχε και το 1973 το Αλκατράζ μετατράπηκε σε εθνικό πάρκο. Σήμερα αποτελεί ένα από τα σημαντικότερα αξιοθέατα της περιοχής και δέχεται περισσότερους από ένα εκατομμύριο επισκέπτες ετησίως.