Se viene inserito un prodotto per errore ciò che devi eliminare non è il "contenitore" (oggetto TextBox), ma il suo contenuto (proprietà Text della TextBox). E poi non è così ovvio che un pulsante una volta usato debba essere eliminato dal form.
Confesso che questa metodologia "usa e getta" riferita ai controlli non l'avevo mai sentita dire.