Questa costellazione è conosciuta fin dall'antichità.

In Mesopotamia, fu identificata col drago cosmico Tiamat (nella mitologia del Vicino Oriente, è il mostro primordiale del caos, di sesso femminile).

Per i Greci, la Balena raffigura il mostro marino Ceto che, nella leggenda di Perseo e Andromeda, venne inviato da Poseidone per divorare la principessa e punire così sua madre Cassiopeia.

Per salvare Andromeda, l’eroe Perseo si lanciò contro il mostro a cavallo di Pegaso, il cavallo alato.

Secondo una leggenda, Perseo confuse il mostro, attirandolo verso la sua ombra. Così quando Ceto si lanciò contro la sua immagine, riflessa sull'acqua del mare, Perseo gli piombò addosso dall'alto e, col falcetto magico donatogli dalla Dea Atena, lo uccise squarciando il suo corpo ricoperto da durissime scaglie.

Secondo un'altra variante dell'epica battaglia, l'eroe attaccò improvvisamente Ceto, cogliendolo alla sprovvista, mentre la sua attenzione era oramai rivolta alla sua preda sacrificale che, in lacrime, attendeva sullo scoglio la sua triste fine. Piombando come un fulmine sul dorso del mostro, Perseo conficcò la sua spada sulla spalla destra del cetaceo. Il mostro, sorpreso da quest'improvviso attacco, si girò verso l'eroe, cercando di inghiottirlo fra le sue enormi fauci. Il "promesso sposo", non si lasciò però spaventare dalla reazione del cetaceo e proseguì nella sua opera continuando a far penetrare la spada nel suo corpo. Così trapassò le costole del mostro fino a raggiungere la sua coda. Con un ultimo conato di vita Ceto sputò un fiotto di sangue dalla bocca e poi cadde senza vita nelle acque del mare. Perseo, allora, portò la carcassa del mostro a riva, dove, tra ali festanti di folla, lo pose sulla spiaggia. Qui il pubblico che aveva assistito al terribile duello, spellò il mostro, esponendo al sole ed al ricordo dei posteri le ossa di Ceto.

Secondo un'ultima variante del mito, Perseo avrebbe sconfitto il mostro, semplicemente mostrandogli la testa di Medusa la Gorgone che lo avrebbe pietrificato.

Varie sono state le rappresentazioni del mostro marino:

Era una terrificante creatura con la testa di rettile, grandi fauci le zampe munite di artigli, il corpo ricoperto da scaglie e la coda di pesce; oppure un drago-pesce, un serpente di mare coperto di scaglie avvinte in enormi spire, una semplice balena, ma anche una creatura ibrida per metà marina e per metà terrestre con le zampe anteriori protese in avanti

Un’altra versione lo dava come il mostro mandato da Poseidonea devastare le coste del re di Troia Laomedonte, che dopo aver chiesto l'aiuto del dio del mare, per erigere le mura della città, non lo aveva ricompensato. Fu allora obbligato a dare in pasto al mostro marino la figlia Esione che fu, poi, salvata da Ercole. Quando, poi, non mantenne la propria parola anche con l'autore delle dodici fatiche, quest'ultimo lo uccise.

Ceto era anche il nome della mitica figlia di Ponto (il Mare) e di Gea (la Terra). Andata in sposa all fratello Forco, fu madre di tutta una genia di terribili creature, tra i quali vari mostri marini, le Gorgoni, Echidna (creatura per metà donna e metà serpente), ed il drago che custodiva il giardino delle Esperidi (vedi costellazione del Drago, celebre per i suoi pomi d'oro e, secondo una variante della leggenda, delle stesse Esperidi

Balena era il nome della nave usata da Fenice, eponimo della Fenicia, su cui regnava Cefeo, per trarre in salvo la figlia Andromeda.

I Romani chiamarono questo gruppo di astri la "balena", seguito da vari aggettivi "nereide" "fiera", "nettunia", "acquatica" e "ricoperta di squame".Questi riferimenti latini ad una balena, più che ad un vero e proprio mostro marino, potrebbero avere delle connessioni con un episodio narrato in un racconto. Sembra, infatti, che una terribile tempesta marina avesse un giorno "sbattuto" sulle coste del Lazio un enorme cetaceo, lungo ben dodici metri, e con vertebra di quasi due metri di diametro

Anche dagli ebrei Cetus venne identificato con un mostro, il Leviatano che, secondo una leggenda, vivrebbe ancora adesso e sarebbe così smisurato da aver bisogno di bere tutta l'acqua del Giordano per dissetarsi. Secondo il mito, il Leviatano vivrà sino alla fine del mondo perché lo scopo per cui è stato creato è quello di essere offerto in pasto ai giusti alla fine dei tempi, insieme alla femmina, la quale fu uccisa dal Signore dopo la creazione perché non generasse altri mostri.

Con l’avvento del cristianesimo divenne la balena che aveva inghiottito Giona.