Bon Jovi agora era uma banda. Durante um show de abertura para a banda Scandal, o grupo chamou a atenção do executivo de gravadora Derek Shulman, que os assinou com a PolyGram.

Com a ajuda do novo empresário, Doc McGhee, o álbum de estreia da banda, Bon Jovi, foi lançado em 21 de janeiro de 1984. O álbum chegou a ouro nos Estados Unidos (mais de 500,000 cópias vendidas) e também foi lançado no Reino Unido. A banda abriu para ZZ Top no Madison Square Garden (antes do álbum ser lançado), e para os Scorpions e os Kiss na Europa, além de shows no Japão.

O ligeiro sucesso do primeiro álbum animou os produtores para um segundo. Em 1985 é lançado 7800° Fahrenheit, mas a recepção foi fraca. A revista britânica Kerrang!, que foi bastante positiva em relação ao álbum de estreia, chamou este de "uma fraca imitação dos Bon Jovi que nós conhecemos e aprendemos a gostar". O próprio Jon Bon Jovi posteriormente disse que o álbum poderia e deveria ser melhor.

Para o álbum seguinte, a banda começou a escrever as canções com o compositor Desmond Child (que foi indicado à banda por Gene Simmons). Slippery When Wet, lançado em 1986, foi produzido por Bruce Fairbarn e gravado em Vancouver, no Canadá. O álbum levou a banda ao "status" de astros mundiais, com sucessos como "You Give Love a Bad Name", "Livin' on a Prayer", "Wanted Dead or Alive" e "Never Say Goodbye". Jon Bon Jovi diz que o álbum recebeu este nome ("escorregadio quando molhado") por causa dos sinais de estrada, mas David Bryan diz o seguinte sobre o nome do álbum: "durante a gravação do disco nós frequentemente íamos a um clube de streaptease onde belas garotas passavam água e sabão umas nas outras. Elas ficavam escorregadias por causa disso, e você não podia segurar mesmo que você quisesse muito. Escorregadio quando molhado!! um de nós gritou e o resto de nós automaticamente já sabia: esse tinha que ser o título do novo álbum! Inicialmente nós íamos pôr uma foto de uns belos peitos, uns realmente grandes, na capa; mas quando o PMRC (uma comissão de moral sob o comando de Tipper Gore, esposa do senador e ex-vice-presidente dos Estados Unidos, Al Gore) descobriu, estávamos com problemas. Então decidimos pôr uma capa bem decente."

Curiosamente, sabe-se que, na época, Jon Bon Jovi não queria incluir "Livin' On A Prayer" (que se tornaria um dos maiores sucessos da banda e do rock em todos os tempos. O videoclip da música é o mais exibido da história da MTV) no álbum, e que o mesmo só recebeu a canção graças ao esforço de Sambora em convencer o vocalista sobre o potencial da canção. Apesar disso, muitos fãs lamentam até hoje o fato da música "Edge of a Broken Heart" não ter entrado no álbum. Atualmente, Jon Bon Jovi demonstrou concordar com tal opinião, reconhecendo que a canção poderia ter sido um tremendo sucesso.

Nos Estados Unidos, o álbum vendeu mais de doze milhões de cópias desde o lançamento no mundo inteiro. Na turnê que se seguiu, Jon Bon Jovi começou a ter dificuldades vocais. As notas extremamente altas e constantes danificaram sua voz permanentemente. Com a ajuda de um técnico vocal, Bon Jovi continuou a turnê, e Jon começou a cantar em tons ligeiramente mais baixos desde então.

O próximo álbum, New Jersey (chamado originalmente de Sons Of Beaches e planejado como um álbum duplo), foi lançado em 1988, novamente produzido por Bruce Fairbarn. O álbum foi gravado logo após o fim da turnê do Slippery When Wet, pois a banda queria provar que não era apenas um sucesso temporário. O resultado é um dos álbuns favoritos dos fãs, com sucessos como "Bad Medicine", "Lay Your Hands on Me", "Born to Be My Baby" e "I'll Be There For You", que permanecem nos repertórios até hoje. No entanto, o álbum levou a banda direto da exaustiva turnê anterior para uma maior ainda. A constante vida na estrada quase destruiu a forte relação entre Jon Bon Jovi e Richie Sambora.