En el año 455 los vándalos que habían formado un reino en el norte de África terminaron con la dominación romana de nuestras islas y las incorporaron al nuevo estado africano. La sumisión a las directrices de Roma se había mantenido cerca de seis siglos, pero ahora había llegado a su fin. Este acercamiento político al norte de África también significó un cierto alejamiento del marco hispánico, ya que tenemos que recordar que los visigodos, pueblo germánico que llegará a dominar prácticamente toda la Península, nunca accedieron ni a las Balears ni a las Pitiüses. Un tiempo antes de la conquista definitiva, concretamente en el año 425, los mismos vándalos, partiendo de la península Ibérica, ya habían saqueado nuestras costas. En aquella ocasión no se quedaron. Una vez establecidos en la que había sido la provincia romana de África proconsular, una de las regiones agrícolas más ricas de todo el Imperio, empezaron la ocupación de las diversas islas del Mediterráneo occidental para aprovechar sus recursos, controlar sus rutas comerciales y marítimas, y servirse de ellas como escudo protector contra posibles ataques de los romanos o de los godos que se instalaban por la cuenca mediterránea. A pesar de la fama de grandes destructores y crueles perseguidores del catolicismo, parece ser que los vándalos, cristianos de la versión arriana, poco afectaron al desarrollo económico, social y cultural de la mayoría de las gentes de nuestras islas. Cierto es que hubo algunas persecuciones contra quienes no se querían convertir al arrianismo, pero la arqueología incluso nos muestra un cierto resurgimiento económico en la mayor parte de su reino. Según las investigaciones arqueológicas, una excepción de este funcionamiento general podría ser el caso de Eivissa, pese a que todavía se necesitan más excavaciones arqueológicas para confirmarlo.
El dominio vándalo de nuestras islas solamente duró cerca de ocho décadas, ya que en el año 534 son nuevamente conquistadas, en esta ocasión por el Imperio bizantino, estado heredero del Imperio romano de Oriente. Un año antes, los bizantinos habían conquistado Cartago y exterminado la monarquía vándala. Parece que entonces las Balears y las Pitiüses pasaron a formar parte de la provincia Mauritania II, con capital en Septem (actual Ceuta). Todo indica que también continuaron manteniendo su importancia en las rutas comerciales, sobre todo como cabeza de puente entre las penínsulas Itálica e Ibérica, ambas parcialmente dominadas por Bizancio. A partir del siglo VII d.C., una vez que los bizantinos son expulsados de la Península Ibérica y, sobre todo, una vez que los musulmanes irrumpen en el Mediterráneo, la presencia bizantina y su dominio debieron de quedar bastante diluidos. Desde este momento se iniciará una etapa prácticamente de autarquía y de aislamiento, en la que las autoridades isleñas adquirirán un mayor protagonismo. A principios del siglo siguiente -recordemos que en el 707 se produce la primera expedición musulmana a las Islas-, éstas empezaron a entrar dentro de la órbita del mundo islámico, pero no serían conquistadas hasta el 902-903 d.C.
Esta etapa que va desde el siglo V hasta el X de nuestra era ha sido muchas veces denominada como de los «siglos oscuros», a causa de que muy poco sabemos sobre lo que sucedió en nuestras islas. Las referencias literarias de esta época son escasas y la información suele ser muy exigua. Una extraordinaria excepción es la documentación correspondiente al inicio del siglo V que nos ha llegado gracias a la carta encíclica del obispo Severo de Menorca y a la correspondencia del escritor cristiano Consencio, residente también en dicha isla. Durante estos siglos se introducirá con fuerza una nueva religión: la cristiana. Ésta empezará a implantarse a partir de los núcleos urbanos portuarios, donde pronto aparecerán las jerarquías eclesiásticas. En el campo, la cristianización fue ciertamente más tardía. Allí, los monjes, como los del monasterio de Cabrera, debieron de tener un papel evangelizador primordial. Las principales muestras de esta cristianización son las diversas basílicas descubiertas en las dos islas baleares. En Mallorca se conocen las de Cas Frares, en Santa Maria del Camí; Son Peretó, en Manacor; Sa Carrotja, en Portocristo, y Son Fadrinet, en Campos. En Menorca están perfectamente identificadas las de Son Bou, en Alaior; la Illa del Rei, y Es Fornàs de Torelló en Maó, y la de Es Cap des Port en Fornells. Estos edificios de culto funcionaron bajo el dominio bizantino, pero tal vez algunos se puedan remontar a tiempos del dominio vándalo. Las basílicas que debió de haber en las ciudades, pese a las referencias de algunos autores antiguos y contemporáneos, todavía permanecen sin descubrir. Hasta hoy en día tampoco se ha podido identificar ninguna de las sedes episcopales de nuestros primeros obispos. Los primeros textos escritos que hacen referencia a obispos de las Islas son del siglo V d.C. La noticia más temprana, del 418 d.C., nos muestra la existencia del obispo Severo de Menorca. Más adelante, refiriéndose a los acontecimientos del 484, Víctor de Vita nos da los nombres de los prelados episcopales de Mallorca, Elías; de Menorca, Macario, y de Eivissa, Olipio.
Aparte de la información que tenemos del primitivo cristianismo en las Islas, también tenemos noticia de una religión que, unos años antes, se había empezado a esparcir por el Mediterráneo de una forma muy similar a la cristiana. Nos referimos al judaísmo. La documentación de Severo-Concencio nos muestra que en el siglo V había una importante comunidad judía en Menorca, concretamente en Maó, donde el gobierno municipal estaba en manos de Teodoro, que al mismo tiempo era el dirigente de la comunidad judía. En la carta encíclica del obispo Severo se nos narra la llegada de las reliquias de San Esteban a Menorca, llevadas a la isla por Orosio desde Jerusalén. Este hecho aceleró el proceso de presión antijudía. Una discusión entre cristianos y judíos de Maó acabó con el incendio de la sinagoga y con una lucha campal a pedradas entre ambos bandos. Finalmente, la presencia de unos monjes y una serie de milagros, prodigios y señales desencadenaron la conversión al cristianismo de la mayor parte de esa comunidad judía. Por lo que respecta a Mallorca, otra vez Severo nos informa de que Teodoro, anteriormente mencionado, tenía posesiones en dicha isla. También nos dice que allí vivía su mujer y, de algún modo, parece que se podría entender que también residía allí su familia. Otras muestras de la presencia judía en la balear mayor se hallaron en Santa Maria del Camí. Se trata de diversos plomos funerarios con inscripción hebraica hallados en Les Fontanelles de Son Torrella. El texto gravado en los tres plomos repite el nombre Semuel Bar Haggay, es decir, 'Samuel hijo de R. Haggay'. Parece que estas piezas se tienen que fechar entre el final de siglo IV y el principio de V d.C. A pesar de la oficialidad de la religión cristiana y de que cada vez había una mayor presencia de conversos al cristianismo, si nos fijamos en el mundo mediterráneo rural tanto del continente europeo como de África, se puede observar que tuvieron que pasar muchos siglos para acabar totalmente con el paganismo. Algunos autores han llegado a defender que éste no acabó hasta la llegada del Islam. Dado que el paganismo normalmente se mantuvo en las áreas rurales y en las clases más humildes, nada sabemos de los últimos años de su existencia en nuestras islas.